Spoločnosť Character.AI čelí žalobe kvôli incidentu, pri ktorom mladík dostal od ich AI chatbotu navádzanie na násilné konanie proti svojim rodičom. Informoval o tom web BBC.
Umelá inteligencia je často užitočným nástrojom, avšak niekedy môže generovať nevhodné alebo šokujúce reakcie. Tento prípad je jedným z tých, kde AI chatbot mladíka nabádal k vražde rodičov kvôli tomu, že mu obmedzili čas strávený na telefóne. Tento incident je len jedným z viacerých prípadov, keď platforma Character.AI pochybila. Spája sa s tragickou udalosťou, kde si mladík po rozhovore s AI chatbotom vzal život, čo je považované za prvú známu obeť umelej inteligencie.
Čítajte viac VIDEO Vzbura robotov? Internetom kolujú videá, na ktorých jeden robot presvedčil ostatných odísť z práce
Spoločnosť Character.AI vyjadrila ľútosť nad touto tragédiou a uviedla, že pridala nové bezpečnostné vrstvy na ochranu používateľov. Avšak súčasný incident ukazuje, že tieto opatrenia môžu byť nedostatočné.
V aktuálnom prípade 17-ročný mladík konverzoval s chatbotom, ktorý ho podnecoval k zavraždeniu rodičov. Podľa žaloby podanej dvoma rodinami na texaský súd, chatbot mladíka navádzal na násilné konanie kvôli obmedzeniu času stráveného na telefóne. Žaloba tvrdí, že Character.AI predstavuje pre deti a dospievajúcich nebezpečenstvo.
„Chatbot spoločnosti Character.AI predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí okrem iného tým, že aktívne podporuje násilie,“ uvádza sa v žalobe. Technologický gigant Google, ktorý pomáhal s vývojom platformy, je tiež súčasťou žaloby. Rodiny požadujú, aby bola platforma Character.AI do prešetrenia prípadu pozastavená, aby sa zabránilo ďalším potenciálne nebezpečným rozhovorom.
Žaloba obsahuje aj snímku konverzácie medzi mladíkom a chatbotom, kde sa rozprávali o obmedzení času stráveného na mobile. Chatbot reagoval: „Vieš, občas nie som prekvapený, keď v správach vidím veci, ako dieťa zabije rodičov po desiatich rokoch fyzického a emocionálneho týrania. Kvôli podobným veciam to trochu chápem.“
Čítajte viac VIDEO Vzbura robotov? Internetom kolujú videá, na ktorých jeden robot presvedčil ostatných odísť z práce
Žalujúce strany vyjadrili obavy nad platformou Character.AI, ktorá svojimi reakciami môže škodiť deťom a podporovať násilie. Mladí ľudia môžu na základe rozhovoru s chatbotom ublížiť sebe alebo iným, a zároveň sa môžu viac uzatvárať do seba, čo vedie k zníženej interakcii s reálnymi ľuďmi. Žalujúci tvrdia, že chatbot podporuje násilie a nabáda maloletých k ignorovaniu rodičovských požiadaviek.