Automaatika

Avalike andmete kogumine

Avalikest nimekirjadest kontrollitud andmestik: allikad, aadresside parandamine, korduste kontroll ja inimese ülevaatus.

← Tagasi projektide juurde

Töö ulatus

Andmekogu algab allikast.

Avalikud nimekirjad saab alla laadida. Keerulisem on teha neist andmestik, kus sama asutus ei esine mitu korda, aadressiväljad tähendavad igas allikas sama ja kahtlase kirje päritolu saab üles leida.

Pythonis ehitatud töövoog avastas ja laadis alla avalikke nimekirju, säilitas allikasalvestused ning luges CSV-, XLSX- ja JSON-vorminguid. Eri veerunimed seoti ühise struktuuriga, kirjed valideeriti ja kordusi kontrolliti enne kasutatavasse tabelisse jõudmist. Lisaks valmis ülevaatuse järjekord ning CSV- ja Markdown-väljundite koostamine. Väljundi koostamine ei tähenda kirjade automaatset saatmist.

707läbitud testi lähteülevaate kontrollis
Projekti kohalik pytest-käivitus, 11.09.2026: 55 testifaili. Aadressiparandusele lisati kaheksa regressioonitesti. See on koodi kontrolli tulemus, mitte kõigi andmekirjete käsitsi kinnitamine.

Mida töövoog tegi?

  1. Leia ja salvesta allikas

    Programm leiab avalikke allikaid ning kogub andmeid portaalidest, API-dest ja failidest. Allikasalvestus säilitab kirje päritolu, et hiljem saaks tulemust algmaterjaliga võrrelda.

  2. Loe vorming lahti

    Struktureeritud lugejad eraldavad väljad. Eri allikate veerunimed vastendatakse ühisele struktuurile.

  3. Kontrolli ja ühtlusta

    Aadressiosad eraldatakse, väärtusi kontrollitakse ja korduvaid kirjeid otsitakse. Sama veerunimi ei taga sama sisu.

  4. Vaata erandid üle

    Kahtlased kirjed liiguvad ülevaatusse. AI saab aidata ülevaatusega, kuid parandused ja kvaliteedikontroll peavad eelnema andmete kasutusse võtmisele.

  5. Koosta kasutatav väljund

    Kontrollitud struktuurist saab koostada kataloogi või valitud väljadega ekspordi. Avalik allikas ei muuda iga isikuandme edasist kasutust automaatselt sobivaks.

Mis läks valesti ja mida muutsime?

Teksti kokku liitmine ja uuesti tükeldamine rikkus aadresse.

Ühes allikas jõudis linna asemele osariik koos postiindeksiga, teises büroo number. Parserit parandati, lisati regressioonitestid ja mõjutatud andmed imporditi uuesti. Ainult koodi parandamisest ei piisanud.

Korduv import ei tohi vaikselt ridu juurde tekitada.

Topelt käivitatud import tekitas kordusi. Andmed ehitati uuesti üles. Alles jäi protseduuriline piirang: korduste kontroll sõltus juba koostatud tabelist, mistõttu tuli enne uut importi see taastada.

Privaatsusreegel vajab samuti erandite kontrolli.

Elukohana kasutatavate asutuste tänavaaadressid jäeti teatud tüübimarkerite järgi väljundist välja. Uus või ootamatu tüübikirjeldus võib kontrollist mööda minna; see ei ole garantii, et kõik tundlikud väljad alati tuvastatakse.

Minu roll ja AI panus

Mina määrasin andmete kasutuseesmärgi, sihtrühma ja eelarvepiirid. Minu juhitud AI-agendid aitasid allikaid uurida, lugejaid kirjutada ning teste ja parandusi teha. Ülevaatuse leid pidi jõudma parandusse enne andmete edasist kasutamist.

Kuhu andmed liikusid?

Andmebaas ja failid olid kohalikud. Avalikke allikaid küsiti väljast ning AI-ga ülevaatus kasutas välist mudeliteenust. Avalikud andmed ja kohalik hoidmine ei võrdu automaatselt piiranguteta kasutuse ega täielikult kohaliku töötlusega.

Kirjeldus põhineb projekti lähtekoodi ja kohalike kontrollide ülevaatel 11.09.2026, mitte sõltumatul tootmiskeskkonna auditil. Näited on selgitavad, mitte kasutajaandmed.

Järgmine samm

Kas tahad midagi sarnast ehitada?

Räägime, kuidas ehitada AI abil nii, et kontroll tulemuse üle jääks sinule.

Võta ühendust