Hvað tengir typpi og gullregn?

Flest lærum við á unga aldri að sama orðið hefur margar merkingar. Aðstæður, samhengi og gildismat stýra því að sömu orð vekja upp mismunandi tilfinningar. Ítrekað finnst einum viðeigandi það sem öðrum finnst óviðeigandi.

Eldri en askan frá Miklahvelli er umræðan hvort brjóst og kynfæri séu óviðeigandi og við hvaða aðstæður.

Vissuð þið að trén sem við köllum gullregn hafa hnúða með typpi á sínum rótum? Jarðvegsbakteríur binda köfnunarefni úr loftinu, sem gullregnið og nærliggjandi plöntur nýta sér. Typpi er finnska orðið yfir köfnunarefni/nitur. Sé það á bannlista geta finnskar umræður um plöntunæringu komið ansi mörgum í klandur. Við erum nefnilega ekki ein í heiminum og orð hoppa oft milli tungumála.

Gervikerfin

Nýlega bað ég gervigreind um mynd sem sýnir klukkuna 5:35, bað svo um stóra vísi á 12, litla á 7. Afraksturinn má sjá í lok greinar, en hún réð við hvorugt verkið.

Langflestar myndir af úrum á netinu sýna vísana í kringum 10 og 2, sem er talið líta best út. Af þeim lærir gervigreindin skekkju í því hvernig þau líta oftast út. Hún veit ekki hvernig þau virka og lendir því í vandræðum með frávikin. Svipuð skekkja birtist oft með vinstrihandar aðgerðir, sökum mikils magns hægrisinnaðs myndefnis á netinu.

Bæði eru þekkt vandamál.

Gervigreindinni svipar til íþróttamanns sem segist vera afreksíþróttamaður. Góður spretthlaupari er jú leiftursnöggur í augum áhorfenda, sem trúa auðveldlega að hann sé hraðari en allir aðrir. Þar til þau sjá hann keppa við Usain Bolt, eða niðurstöður lyfjaprófana skemma fyrir.

Einfeldni eða þröngsýni?

Kerfi sem þekkir bara ensku lítur á önnur tungumál sem málvillu. Þekki það líka frönsku gæti það dregið ályktunina að sá sem skrifar á því máli sé franskur. Nema það viti að um 2/3 af frönskumælandi fólki hefur ekki frönsku sem sitt móðurmál. Allt þetta þarf að meta þegar ég segi „ég vil franskar“. Heilinn okkar gerir það sama.

Þröngsýn gervigreind er ekkert skárri en þröngsýnn einstaklingur. Hvorugt ætti að fá skipstjórasætið.

Vitum við hve þröngsýn kerfin sem við notum eru? Við lifum í heimi sem þau móta. Afrakstur þeirra stýrir nú þegar miklu um hvert við stefnum. Stýrir umræðunni, hvenær við hrópum og á hvern. Þetta getur verið vandamál vegna vankanta á tækninni, eða þeim sem smíða kerfið.

Útilokun

Sjálfvirk kerfi lenda í sömu vandræðum og við með samhengi, sjónarhorn og jafnvel hvaða menningarheim skuli nota við túlkunina. Kunni gervigreind ekki að lesa rétt í aðstæður, skilar hún röngum niðurstöðum. Ætti fuglavernd að kanna málið ef þú rústaðir tjaldi í útilegu?

Taki kerfið sjálft ákvörðun um framhaldið, magnast vandamálið.

Ritskoðunarkerfi lenda oft í vandræðum með kaldhæðni og flagga því gríni sem fölskum staðhæfingum. Svipað gerist þegar öryggissérfræðingar vara við glæpum og benda fólki á hvað þurfi að varast. Kerfið telur þá reyna svik, merkir sem glæpamenn, lokar aðgangi. Allt þetta verður að vera hægt að ræða.

Ofurtraust á sjálfvirkt kerfi sem greinir ekki á milli þess að svindla eða tala um svindl, tekur því miður iðulega saman við viðskiptalega eða pólitíska ákvörðun um ásættanlegan fórnarkostnað. Vont er ef við greinum ekki þar á milli og skjótum jafnvel boðberann.

Sé það vilji þess sem smíðar, getur það sama gerst í auknu magni fyrir efni og einstaklinga sem honum mislíkar.

Sá sem stóð á Austurvelli og öskraði á fuglana sem hvergi voru, hefur skyndilega fengið hærri rödd en nokkru sinni fyrr. Við getum því mjög auðveldlega haldið að skoðanir lítils hóps endurspegli meirihlutann, lært hegðun sem á sér litla stoð í raunveruleikanum, eða hreinlega látið ýta okkur út í öfgakenndari skoðanir. Það er því miður löngu orðið ljóst og blekkingarleikurinn er bara rétt að byrja.

Höfundur er tölvunarfræðingur, menntaður í – en ekki af – gervigreind.