Vé­fréttir og villu­ljós

Ég spurði ChatGPT um daginn hvaða erlendu þjóðernishópar væru líklegastir til að vera atvinnulausir hérlendis. Svarið kom að vörmu spori, þetta væru Pólverjar. Ég spurði um heimildir og var vísað á skýrslu Vinnumálastofnunar þar sem þetta kæmi fram. Í skýrslunni kemur að vísu fram að Pólverjar séu stærsti hluti erlendra ríkisborgara á atvinnuleysisskrá, en þetta segir hins vegar ekkert um hversu líklegir þeir séu til að vera atvinnulausir, til þess þyrfti að deila fjöldanum með heildarfjölda pólskra ríkisborgara sem hér eru búsettir og bera niðurstöðuna saman við sömu niðurstöðu fyrir önnur þjóðerni.

Ég spurði svo um þróun verðlags og launa árið 2024. Gervigreindin staðhæfði að ársverðbólga 2024 hefði verið 5,86% á árinu og launavísitala hefði hækkað um 6,3%. Síðari talan er rétt og byggir á gögnum Hagstofu Íslands. Sú fyrri er röng og þegar að er gáð er hún sótt á erlenda vefsíðu, en ekki kemur fram hvaðan gögnin eru fengin.

Rangar upplýsingar í veldisvexti

Eftir að notkun stórra mállíkana tók að breiðast út notar fólk þau í síauknum mæli til að afla sér upplýsinga um allt milli himins og jarðar. Tilhneigingin til að líta á gervigreind sem eins konar véfrétt er sterk. En eins og fyrrnefnd dæmi sýna er oft varasamt að treysta því sem frá henni kemur. En rangar upplýsingar, fengnar með þessum hætti, fara æ oftar í dreifingu og geta haft áhrif á skoðanamyndun og ákvarðanatöku.

Það hefur aldrei verið hörgull á röngum upplýsingum né á aðilum sem misnota og bjaga gögn í einhverju skyni, hvað þá á þeim sem misskilja þau. En nú þegar mállíkönin eru komin til sögunnar hefur magn rangra eða óáreiðanlegra upplýsinga margfaldast. Hættan á að þær séu lagðar til grundvallar við ákvarðanatöku hefur einnig aukist verulega.

Hvers vegna tökum við mark á gervigreindinni?

Meginástæðurnar fyrir þessari hættu eru þrjár. Sú fyrsta er sú hversu snögg líkönin eru að bregðast við og matreiða slíkar upplýsingar og auðvelda okkur þannig lífið. Önnur ástæðan er sú hversu trúverðug svörin virðast. Hin þriðja er sú að vegna þess hversu mjög samtöl við líkönin líkjast samtölum við annað fólk göngum við gjarna ómeðvitað út frá því að eins og við geri líkönin greinarmun á því hvað sé rétt og hvað ekki. En þetta eru þau alveg ófær um að gera, því mállíkön spá aðeins fyrir um næsta orð í setningu og spáin byggir á líkum sem grundvallast á gögnunum sem þau hafa verið þjálfuð á. Og það sem verra er er að í rauninni er engin leið að átta sig nákvæmlega á því hvað hafi farið úrskeiðis, hvers vegna svarið sé rangt.

Gagnvart gervigreindinni erum við því gjarnan í svipaðri stöðu og sá sem vinnur með tölfræðilegt líkan sem orðið er svo flókið að hann skilur ekki almennilega lengur hvernig það virkar. Í báðum tilfellum er það lykilatriði að hugsa gagnrýnið um útkomuna og bera saman við áþreifanlegar staðreyndir.

Þessi villuhætta breytir því auðvitað ekki að gervigreindarlíkön eru afar nytsamleg til margra hluta. Þau geta hjálpað okkur að draga saman aðalatriðin í langri skýrslu, aðstoðað við forritun og hjálpað okkur að skrifa texta svo fátt eitt sé nefnt. En að nota þau til upplýsingaöflunar um tölulegar staðreyndir er varasamt og það sýnir sig aftur og aftur.

Mikilvægi opinberra gagna

Í dag, 20. október er Alþjóðlegi tölfræðidagurinn. Tilgangur hans er að vekja athygli á mikilvægi tölfræðinnar og traustra gagna. Töluleg gögn hafa lykilþýðingu í daglegu lífi okkar. Vaxtastig grundvallast á gögnum um verðlagsþróun, ákvarðanir um opinber útgjöld til mismunandi málaflokka byggja á gögnum sem gefa til kynna þjónustuþörf og þróun hennar, launin okkar byggja á gögnum um almenna þróun launa og verðlags, bara svo fáein dæmi séu nefnd. Allt eru þetta gögn sem safnað er af opinberum aðilum og þar leikur Hagstofa Íslands lykilhlutverk. Hvort sem gögnin eru fengin frá öðrum eða safnað með könnunum eru þau ávallt meðhöndluð og unnið úr þeim samkvæmt alþjóðlegum gæðastöðlum til að tryggja áreiðanleika þeirra sem best. Þessi opinberu og gæðavottuðu gögn eru yfirleitt aðgengileg á þægilegu formi. Við þurfum að hafa aðeins meira fyrir því að afla þeirra en að spyrja gervigreindina, en sú fyrirhöfn margborgar sig.

Tökum upplýstar ákvarðanir

Opinber gögn um hagkerfið og samfélagið liggja til grundvallar stórum hluta þeirra ákvarðana sem fyrirtæki og einstaklingar taka, bæði beint og óbeint. Auðvelt er að láta blekkjast af trúverðugum, en röngum upplýsingum sem einfalt og fljótlegt er að afla. Við þurfum öll að vera meðvituð og gæta þess að notast við traustar og óháðar upplýsingaveitur. Þannig stuðlum við að upplýstri ákvarðanatöku.

Höfundur er hagfræðingur á greiningarsviði Hagstofu Íslands og sérfræðingur í hagnýtingu gervigreindar.