dawidmajewski/samorzad-gov-pl-articles

Artykuły z platformy samorzad.gov.pl

Wersja: v0.2

Zbiór zawiera 81 418 artykułów opublikowanych na stronach 247 instytucji korzystających ze wspólnej platformy samorzad.gov.pl. Są to między innymi urzędy gmin i powiatów, szkoły, instytucje pomocy społecznej i instytucje kultury.

W wersji v0.2 usunięto dane osobowe i kontaktowe z pól tekstowych przeznaczonych dla odbiorcy. Usunięte wartości zastąpiono jednoznacznymi znacznikami, zachowując układ i znaczenie pozostałej treści. Adresy źródłowe pozostają bez zmian, aby każdy rekord można było powiązać z miejscem publikacji.

Każda instytucja ma na platformie własną stronę, na przykład samorzad.gov.pl/web/nazwa-instytucji. W danych jej nazwa techniczna znajduje się w polu tenant. Pole publisher_type zawiera ogólny rodzaj instytucji.

Changelog

v0.2

• usunięto imiona i nazwiska współczesnych osób prywatnych i występujących służbowo;
• usunięto numery telefonów, adresy e-mail, numery rachunków, identyfikatory podatkowe i rejestrowe oraz adresy usług elektronicznych;
• usunięto adresy internetowe z tytułów, tekstów, opisów obrazów i tekstowych metadanych załączników;
• zachowano osoby historyczne, patronów, autorów bibliografii i osoby będące tematem artykułu, gdy kontrola wykazała zbyt szeroką zamianę;
• wykluczono 4 rekordy z uszkodzoną treścią źródłową;
• ponownie obliczono długość tekstu, skróty i grupy identycznych treści.

Łącznie zmieniło się 50 832 rekordów. Zastosowano następujące znaczniki:

Znacznik	Liczba zamian
<PERSON>	223 508
<PHONE>	21 776
<EMAIL>	9 189
<URL>	21 864
<BANK_ACCOUNT>	1 155
<TAX_ID>	602
<REGISTRY_ID>	311

Co znajduje się w zbiorze

• 81 418 artykułów;
• 247 instytucji;
• 14 972 095 słów po deidentyfikacji;
• 21 891 artykułów z podaną datą publikacji, od 2020 do 2026 roku;
• 59 527 artykułów bez daty;
• 74 189 artykułów z co najmniej jednym odnośnikiem do obrazu;
• 11 252 artykuły z co najmniej jednym odnośnikiem do załącznika.

W przypadku 5 158 artykułów tekst jest identyczny z tekstem co najmniej jednego innego artykułu. Odpowiada to 1 748 zestawom identycznych treści. Takie artykuły pozostały w zbiorze. Można je rozpoznać za pomocą pól exact_text_sha256 i exact_text_duplicate_count.

Podział danych

Split	Rekordy
train	79 771
validation	858
test	789

Podział jest deterministyczny i oparty na record_id, dzięki czemu pozostaje stabilny przy ponownym zbudowaniu tego samego wydania.

Skąd pochodzą dane

Adresy artykułów zebrano przez przeglądanie publicznie dostępnych stron platformy samorzad.gov.pl. O wyborze strony decydował jej adres i budowa techniczna, a nie temat, długość tekstu ani obecność daty.

Łącznie znaleziono 100 716 niepowtarzających się adresów. Dla 81 422 z nich udało się pobrać stronę i wydzielić treść artykułu. Cztery rekordy z uszkodzoną treścią źródłową wykluczono podczas przygotowania v0.2. Pozostałe 19 294 adresy nie weszły do zbioru:

• w 17 508 przypadkach parser nie potrafił pewnie wyznaczyć granic artykułu, najczęściej dlatego, że treścią był obraz albo odnośnik do załącznika;
• 1 467 adresów prowadziło poza dozwolony zakres platformy;
• 309 stron zwróciło błąd HTTP 404;
• 10 odpowiedzi przekroczyło przyjęty limit rozmiaru.

Nie oznacza to, że zbiór obejmuje wszystkie artykuły, które kiedykolwiek opublikowano na platformie. Obejmuje wszystkie artykuły znalezione i poprawnie odczytane podczas tego przebiegu zbierania danych, z wyjątkiem czterech udokumentowanych wadliwych rekordów źródłowych.

Deidentyfikacja i kontrola jakości

Deidentyfikacja obejmuje pola title, text, media[].alt, attachments[].filename i attachments[].size_label. Usunięte wartości są zastępowane znacznikami określającymi typ danych, a pola pochodzenia — między innymi source_url, final_url oraz techniczne adresy mediów i załączników — pozostają bez zmian.

Użyte narzędzia i metoda

Nazwy osób wykrywano modelem ArkadiuszPawlak/fastpdn-ner-polish-pii, przypiętym do rewizji 636c57fe77b0afad8f065e7c76243dc051437035. Wykorzystano skwantyzowany wariant ONNX uruchamiany przez ONNX Runtime na CPU oraz tokenizer dostarczony z modelem. Automatycznie przyjmowano wyniki PERSON z wynikiem co najmniej 0.90; wyniki od 0.70 do 0.90 wymagały jednoznacznego kontekstu roli lub danych kontaktowych.

Dane o rozpoznawalnej budowie wykrywano za pomocą jawnych reguł i biblioteki phonenumbers. Reguły obejmowały adresy e-mail i URL, polskie numery telefonów, PESEL, NIP, REGON, rachunki IBAN/NRB oraz numery kart. Tam, gdzie było to możliwe, kandydat musiał przejść odpowiednią sumę kontrolną, na przykład MOD 97 albo algorytm Luhna. Wszystkie zamiany wykonywano na zakresach UTF-8 związanych skrótami SHA-256 z tekstem źródłowym.

Stała próbka kontrolna obejmowała 293 rekordy źródłowe. Po wykluczeniu 4 rekordów z uszkodzoną treścią wszystkie 289 pozostałych rekordów przeszło ręczny przegląd. Ręczne poprawki i przywrócenia były przypisane do konkretnego rekordu, pola i zakresu znaków oraz zabezpieczone skrótami SHA-256.

Przebieg walidacji

Po zbudowaniu końcowych plików wykonano osobny audyt wydania:

1. pełny skan regułami strukturalnymi objął wszystkie 81 418 rekordów, 601 564 wartości tekstowe i 138 781 396 znaków;
2. model PERSON uruchomiono ponownie na równomiernie rozłożonej próbce 1 000 rekordów posortowanych według record_id;
3. wszystkie pola tekstowe sprawdzono pod kątem nieznanych, uszkodzonych, zagnieżdżonych i wklejonych w słowa znaczników;
4. dla 10 plików Parquet sprawdzono liczbę rekordów, rozmiary i SHA-256;
5. identyfikatory oraz adresy źródłowe porównano z przypiętym manifestem v0.1, a cztery braki musiały dokładnie odpowiadać zatwierdzonej liście wykluczeń.

Końcowy audyt wydania potwierdził:

• zgodność liczby rekordów, rozmiarów i skrótów SHA-256 wszystkich 10 plików Parquet;
• zgodność wszystkich rekordów z wydaniem źródłowym i dokładnie 4 zatwierdzone wykluczenia;
• brak pozostałych danych osobowych o rozpoznawalnej budowie w pełnym skanie 81 418 rekordów;
• brak pozostałych nazw osób w równomiernie rozłożonej próbce 1 000 rekordów;
• brak wadliwych, zagnieżdżonych, nieznanych lub wklejonych w słowa znaczników.

Automatyczna deidentyfikacja i kontrola próbki ograniczają ryzyko, ale nie gwarantują wykrycia każdego możliwego przypadku. Przy zastosowaniach wrażliwych zalecana jest dodatkowa kontrola wybranego podzbioru.

Pola rekordu

Pole	Znaczenie
record_id	Stały identyfikator będący skrótem SHA-256 adresu source_url.
source_url	Adres użyty podczas pobierania.
final_url	Adres po ewentualnym przekierowaniu.
tenant	Nazwa strony instytucji na platformie, czyli część adresu po /web/.
publisher_type	Ogólny rodzaj instytucji: gmina, powiat, szkoła, pomoc społeczna, instytucja kultury, inna jednostka publiczna albo strona centralna.
title	Tytuł artykułu po deidentyfikacji.
text	Tekst artykułu po deidentyfikacji.
published_date	Data podana na stronie; null, jeśli jej nie znaleziono.
published_year	Rok wyprowadzony z published_date; ułatwia filtrowanie.
text_chars	Liczba znaków w polu text po deidentyfikacji.
text_words	Liczba fragmentów tekstu rozdzielonych białymi znakami po deidentyfikacji.
media	Adresy obrazów i zdeidentyfikowane teksty alternatywne. Pliki obrazów nie są częścią zbioru.
attachments	Adresy załączników oraz zdeidentyfikowana nazwa, format i rozmiar podane na stronie. Pliki załączników nie są częścią zbioru.
exact_text_sha256	Skrót SHA-256 tekstu po deidentyfikacji, służący do wykrywania identycznych treści.
exact_text_duplicate_count	Liczba rekordów mających ten sam tekst po deidentyfikacji.

Prawa do treści

Wspólna stopka platformy informuje, że treści tekstowe publikowane w serwisie, z wyłączeniem treści audiowizualnych, są udostępniane na licencji Creative Commons Uznanie autorstwa — Na tych samych warunkach 4.0 (CC BY-SA 4.0). Stopka jest dodawana przez wspólny skrypt platformy. Wszystkie 81 422 zachowane strony źródłowe odwołują się do tego skryptu.

Przy dalszym udostępnianiu należy podać źródło, wskazać licencję, oznaczyć dokonane zmiany i zachować tę samą licencję dla opracowania. Deidentyfikacja tekstu jest zmianą względem materiału źródłowego.

Pliki obrazów, nagrań, filmów i załączników nie są częścią zbioru. Pola media i attachments zawierają jedynie adresy oraz opisowe metadane. Przed wykorzystaniem materiałów dostępnych pod tymi adresami należy sprawdzić warunki podane w źródle.

Ograniczenia

• Większość rekordów nie ma daty publikacji.
• Zbiór nie zawiera autora ani miejsca, ponieważ tych informacji nie udało się wiarygodnie uzyskać dla całego materiału.
• Rodzaj instytucji pochodzi z przygotowanego osobno rejestru. Nie należy traktować go jako urzędowej klasyfikacji.
• Tekst może zawierać elementy nawigacji lub podpisy, których nie usunął program wydzielający artykuły.
• Bardzo krótkie rekordy pozostawiono bez zmian.
• Powtarzające się teksty nie zostały usunięte. Największa grupa zawiera 595 rekordów.
• Obrazy i załączniki są reprezentowane wyłącznie przez adresy i opisowe metadane. Adresy mogą z czasem przestać działać.
• Zbiór nie jest pełnym archiwum platformy. Pomija adresy, których nie znaleziono, oraz znalezione strony, których nie udało się poprawnie przetworzyć.
• Deidentyfikacja zmniejsza ryzyko ujawnienia danych osobowych, ale nie stanowi gwarancji ich całkowitego braku.

Przykład użycia

from datasets import load_dataset

dataset = load_dataset("dawidmajewski/samorzad-gov-pl-articles")

# Artykuły z 2024 roku, które mają załączniki
articles = dataset["train"].filter(
    lambda row: row["published_year"] == 2024 and len(row["attachments"]) > 0
)

Przy cytowaniu lub dalszym udostępnianiu materiału należy zachować source_url, podać licencję CC BY-SA 4.0 i wyraźnie zaznaczyć, że tekst został zdeidentyfikowany.