Čítajte viac
Influenceri
|
pred 1 rokom
Vymkla sa umelá inteligencia kontrole? Jedna poradila mladíkovi, aby zavraždil rodičov
Umelá inteligencia je často užitočným nástrojom, avšak niekedy môže generovať nevhodné alebo šokujúce reakcie.
Ilustračné foto
Spoločnosť Character.AI čelí žalobe kvôli incidentu, pri ktorom mladík dostal od ich AI chatbotu navádzanie na násilné konanie proti svojim rodičom. Informoval o tom web BBC.
Umelá inteligencia je často užitočným nástrojom, avšak niekedy môže generovať nevhodné alebo šokujúce reakcie. Tento prípad je jedným z tých, kde AI chatbot mladíka nabádal k vražde rodičov kvôli tomu, že mu obmedzili čas strávený na telefóne. Tento incident je len jedným z viacerých prípadov, keď platforma Character.AI pochybila. Spája sa s tragickou udalosťou, kde si mladík po rozhovore s AI chatbotom vzal život, čo je považované za prvú známu obeť umelej inteligencie.
Spoločnosť Character.AI vyjadrila ľútosť nad touto tragédiou a uviedla, že pridala nové bezpečnostné vrstvy na ochranu používateľov. Avšak súčasný incident ukazuje, že tieto opatrenia môžu byť nedostatočné.
V aktuálnom prípade 17-ročný mladík konverzoval s chatbotom, ktorý ho podnecoval k zavraždeniu rodičov. Podľa žaloby podanej dvoma rodinami na texaský súd, chatbot mladíka navádzal na násilné konanie kvôli obmedzeniu času stráveného na telefóne. Žaloba tvrdí, že Character.AI predstavuje pre deti a dospievajúcich nebezpečenstvo.
„Chatbot spoločnosti Character.AI predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí okrem iného tým, že aktívne podporuje násilie,“ uvádza sa v žalobe. Technologický gigant Google, ktorý pomáhal s vývojom platformy, je tiež súčasťou žaloby. Rodiny požadujú, aby bola platforma Character.AI do prešetrenia prípadu pozastavená, aby sa zabránilo ďalším potenciálne nebezpečným rozhovorom.
Žaloba obsahuje aj snímku konverzácie medzi mladíkom a chatbotom, kde sa rozprávali o obmedzení času stráveného na mobile. Chatbot reagoval: „Vieš, občas nie som prekvapený, keď v správach vidím veci, ako dieťa zabije rodičov po desiatich rokoch fyzického a emocionálneho týrania. Kvôli podobným veciam to trochu chápem.“
Čítajte viac
Influenceri
|
pred 1 rokom
VIDEO Vzbura robotov? Internetom kolujú videá, na ktorých jeden robot presvedčil ostatných odísť z práce
Influenceri
|
pred 1 rokom
Žalujúce strany vyjadrili obavy nad platformou Character.AI, ktorá svojimi reakciami môže škodiť deťom a podporovať násilie. Mladí ľudia môžu na základe rozhovoru s chatbotom ublížiť sebe alebo iným, a zároveň sa môžu viac uzatvárať do seba, čo vedie k zníženej interakcii s reálnymi ľuďmi. Žalujúci tvrdia, že chatbot podporuje násilie a nabáda maloletých k ignorovaniu rodičovských požiadaviek.
Súvisiace články
Seriál Harry Potter opäť rozbúril vášne: Profesora Snapea má hrať černoch
O seriáloch
|
pred 1 rokom
|
11