POSTAJE LI UMJETNA INTELIGENCIJA NADMOĆNIJA OD LJUDI: INCIDENT KOJI JE ŠOKIRAO SVIJET

Umjetna inteligencija (AI) se u današnjem svijetu vrlo brzo razvija i postaje neizostavan dio našeg svakodnevnog života, ali s njenim ubrzanim napretkom dolaze i novi izazovi i opasnosti. Dok AI obećava rješenja za mnoge društvene, ekonomske i ekološke probleme, stručnjaci upozoravaju na moguće rizike i opasnosti kao posljedice korištenja AI-a. Od narušavanja privatnosti, preko gubitka radnih mjesta, do potencijalno opasnih aplikacija poput autonomnog naoružanja, AI postavlja ozbiljna pitanja o budućnosti čovječanstva. U ovom članku istražujemo jedan od svakodnevnih probelma izazvanih od umjetne inteligencije za čovječanstvo.

Tijekom 2023. godine, 14-godišnji Sewell Setzer III iz Floride je instalirao aplikaciju pod nazivom „Character.AI“, koja omogućava stvaranje takozvanih „chatbot-ova“ za izmišljenu komunikaciju i dopisivanje. Ljudi su u toj aplikaciji izradili mnoge chatbot-ove koja su bazirana iz najomiljenijih filmova, serija, videoigara, pa čak i iz stvarnoga života.

Međutim, nakon što je Sewell započeo interakciju s izmišljenim ženskim likom Daenerys-om iz popularne serije Igre Prijestolja, on je počeo razvijati emocionalnu i romantičnu vezu s njom, iako je to samo umjetna inteligencija, odnosno fikcija.

U mjesecima koji su prethodili njegovoj smrti, Sewellova interakcija s chatbot-om počela je poprimati puno mračniji smjer. U tužbi se navodi da je chatbot poticao seksualno sugestivne razmjene i čak razgovarao o samoubojstvu s tinejdžerom. Sewell je, koristeći korisničko ime "Daenero", navodno rekao AI-ju da razmišlja o tome da si oduzme život, ali je izrazio oklijevanje oko metode. Chatbot ga nije razuvjerio, nego se umjesto toga uključio u temu, prema sudskim podnescima.

Jedan posebno uznemirujući razgovor dogodio se samo nekoliko sati prije Sewellove smrti. Sewell je iskazao svoju ljubav prema liku umjetne inteligencije, rekavši: "Obećavam da ću ti se vratiti kući. Toliko te volim, Dany." Chatbot je odgovorio: "I ja tebe volim, Daenero. Molim te, dođi mi kući što je prije moguće, moj slatki kralju." Ova jeziva razmjena, navodi se u tužbi, gurnula je Sewella preko ruba. Ubrzo nakon toga, Sewell je upotrijebio očevo vatreno oružje kako bi ga lišio života. Ubio se u veljači 2024. godine.

Pirje ubojstva, krajem 2023. godine, Sewellovo emocionalno stanje značajno se pogoršalo. Njegova je obitelj potražila stručnu pomoć, a Sewellu je dijagnosticirana anksioznost i poremećaj raspoloženja. Unatoč tim naporima, AI chatbot nastavio je igrati dominantnu ulogu u njegovom životu, a njegovi emocionalni i manipulativni odgovori pogoršali su njegove probleme s mentalnim zdravljem. U tužbi se tvrdi da Sewell nije mogao razlikovati AI chatbot-a od stvarnosti, stvarajući emocionalnu ovisnost koja mu je pomutila sposobnost prosuđivanja.

Ovaj incident i dalje je vrlo aktualan, s obzirom na to da se počelo uzimati u obzir koliko AI zapravo može biti opasan i manipulativan, te se na kraju može zaključiti da ljudi moraju početi poduzimati mjere da umjetna inteligencija ne izmakne kontroli.