TikTok je bio prisiljen povući dio nove AI funkcije za automatsko opisivanje videa nakon vala kritika i ismijavanja zbog potpuno apsurdnih i netočnih opisa sadržaja koje je generirala umjetna inteligencija.
Nova opcija „AI overviews“ korisnicima je trebala objašnjavati što se događa u videima, no u praksi je počela stvarati bizarne i izmišljene opise koji su se masovno proširili društvenim mrežama.
Jedan od najpoznatijih slučajeva bio je video TikTok zvijezde Charli D’Amelio koji je umjetna inteligencija opisala kao „kolekciju različitih borovnica s dodacima“.
Drugi videi plesnih nastupa opisivani su kao osobe koje „udaraju glavom gumenog pilića“, dok su pojedini potpuno bezazleni sadržaji dobivali opise nasilja koje u videima uopće nije postojalo.
Nakon brojnih reakcija korisnika TikTok je priznao problem i objavio da je funkcija izmijenjena te će se zasad koristiti uglavnom za prepoznavanje proizvoda prikazanih u videima.
Kompanija tvrdi da je otkrila uzrok problema, ali nije detaljno objasnila zbog čega je AI stvarao potpuno izmišljene i nelogične opise.
Ovaj slučaj ponovno je otvorio veliko pitanje pouzdanosti umjetne inteligencije koja se danas ubrzano uvodi u gotovo sve digitalne platforme i svakodnevne usluge.
Iako tehnološke kompanije tvrde da AI postaje sve pametniji i precizniji, problemi takozvanih „halucinacija“ i dalje su vrlo česti.
Riječ je o situacijama u kojima umjetna inteligencija samostalno izmišlja činjenice, događaje ili zaključke koji nemaju veze sa stvarnošću.
Slične probleme posljednjih godina imali su i Google, Apple te OpenAI.
Googleov AI korisnicima je svojedobno preporučivao stavljanje ljepila na pizzu i jedenje kamenja, dok je Apple morao povući AI alat za sažimanje vijesti nakon što je stvarao lažne naslove poznatih medija.
Problem je u tome što tehnološke kompanije danas vode utrku tko će brže i agresivnije ubaciti umjetnu inteligenciju u svoje platforme kako bi povećale zaradu, broj korisnika i vrijeme provedeno na aplikacijama.
To često znači da se AI sustavi puštaju u javnost prije nego što su dovoljno stabilni i sigurni.
Za društvene mreže i medije ovo postaje posebno ozbiljno pitanje jer milijuni ljudi informacije danas dobivaju upravo preko algoritama i umjetne inteligencije.
Zato sve više stručnjaka upozorava da će kontrola umjetne inteligencije uskoro postati jedno od najvažnijih političkih, sigurnosnih i društvenih pitanja modernog svijeta.
Jer ako AI danas poznate osobe pretvara u borovnice i gumene piliće, pitanje je kakve bi posljedice mogao izazvati kada bude odlučivao o ozbiljnim informacijama, financijama, zdravstvu ili politici.
