Mesterséges intelligencia helyett mesterséges idiotizmus
Az új chatbotokkal nem csak az a probléma, hogy gyakran hülyék és naivak; arról van szó, hogy nem elég „hülyék” vagy „naivak” ahhoz, hogy elsajátítsák az emberi kultúrát és kommunikációt jellemző árnyalatokat, iróniát és leleplező ellentmondásokat. Ami még rosszabb: ha rájuk hagyatkozunk, azt kockáztatjuk, hogy behódolunk a tompaságuknak.
Köszönjük, hogy olvasod a cikkeinket. A Napunk csak úgy tud fennmaradni, ha az olvasói előfizetik. Kérjük, támogasd a szerkesztőség munkáját. További cikkeinkért, illetve rövidhírekért látogass el a főoldalunkra is.
Nincs semmi újdonság a „chatbotokban”, amelyek képesek természetes nyelven beszélgetni, megérteni a felhasználó alapvető szándékát, és előre beállított szabályokon és adatokon alapuló válaszokat kínálnak. De az ilyen chatbotok kapacitása drámaian megnövekedett az elmúlt hónapokban, ami bizonyos körökben aggodalomhoz és pánikhoz vezetett.
Sok minden elhangzott a chatbotokról, ami a hagyományos diákesszé végét vetíti előre. De alaposabb figyelmet követel az a kérdés, hogy a chatbotoknak miként kell reagálniuk, amikor az emberi beszélgetőpartnerek agresszív, szexista vagy rasszista megjegyzésekkel arra késztetik a botot, hogy válaszában mutassa be a saját mocskos szájú fantáziáit. Vajon úgy kell programozni az MI-t, hogy ugyanazon a színvonalon válaszoljon, mint amelyiken a kérdést feltették?
Ha úgy döntünk, hogy a szabályozás bizonyos módja rendben van, akkor meg kell határoznunk, meddig mehet el a cenzúra. Betiltják-e azokat a politikai állásfoglalásokat, amelyeket egyes csoportok „sértőnek” tartanak? Mi a helyzet a ciszjordániai palesztinokkal való szolidaritás megnyilvánulásaival vagy azzal az állítással, hogy Izrael apartheid állam (amit Jimmy Carter volt amerikai elnök egyszer egy könyv címébe is beemelt)? Ezeket „antiszemitaként” blokkolni fogják?
A probléma ezzel még nem ér véget. Ahogy James Bridle művész és író figyelmeztet, az új mesterséges intelligencia „a meglévő kultúra nagykereskedelmi kisajátításán alapul”, és az a gondolat, hogy „az MI tulajdonképpen tájékozott vagy értelmes, meglehetősen veszélyes”. Ezért nagyon óvatosnak kell lennünk az új MI képgenerátorokkal is. „Az emberi vizuális kultúra egészének megértésére és megismétlésére irányuló kísérletükben – jegyzi meg Bridle –, úgy tűnik, hogy a legsötétebb félelmeinket is újrateremtették. Talán ez csak annak a jele, hogy ezek a rendszerek valóban nagyon jók az emberi tudat majmolásában, egészen a létezés mélyén leselkedő borzalomig: a szennytől, a haláltól és a korrupciótól való félelmeinkig.”
De mennyire jók az új MI-k az emberi tudat megközelítésében? Gondoljunk csak arra a bárra, amely a közelmúltban egy különleges akciót hirdetett a következő feltételekkel: „Vegyél egy sört kettő áráért, és kapsz egy második sört teljesen ingyen!” Ez minden ember számára nyilvánvalóan vicc. A klasszikus „vegyél egyet, kapsz egy másikat” formula újra lett fogalmazva, és megszüntette magát. Ez a cinizmus kifejezése, amelyet komikus őszinteségként értékelnek, mindezt az eladások fellendítése érdekében. Egy chatbot vajon felfogná ezeket?
A „baszás” hasonló problémát jelent. Bár olyasvalamit jelöl, amit a legtöbben szívesen csinálnak (kopuláció), gyakran negatív vegyértéket is kap („Nekünk bebaszott!”, „Baszódj meg!”). A nyelv és a valóság viszonya nem tiszta. Az MI készen áll az ilyen különbségek felismerésére?
