Uuden Kalifornian lakiehdotuksessa (SB 243) pyritään esittämään suojatoimenpiteet lapsille, jotka ovat vuorovaikutuksessa AI -chatbotien kanssa. Senaattori Steve Padillan ehdottama lainsäädäntö vaatisi AI -yrityksiä muistuttamaan säännöllisesti nuoria käyttäjiä siitä, että chatbotit eivät ole ihmisiä, pyrkiessään hillitsemään tekoälyn "riippuvuutta aiheuttavaa, eristäviä ja vaikutusvaltaisia näkökohtia".
Lakiehdotuksen tavoitteena on myös estää AI -kehittäjiä käyttämästä ”riippuvuutta aiheuttavia sitoutumismalleja”, jotka saattavat vahingoittaa alaikäisiä. Lisäksi yritysten olisi toimitettava vuosikertomukset valtion terveydenhuollon laitoksen laitokselle yksityiskohtaisesti, joissa heidän AI havaitsi lasten itsemurha -ajatukset tai aiheuttaneet aiheeseen liittyviä aiheita. AI -alustoja vaaditaan myös varoittamaan käyttäjiä siitä, että heidän chatbotinsa eivät välttämättä sovellu joillekin lapsille.
Ehdotettu lukeminen:Dragon Copilot: Microsoftin AI -ratkaisu pyrkii lievittämään lääkärin palamista
Lainsäädäntö seuraa kasvavia huolenaiheita AI -chatbotien psykologisista vaikutuksista nuoriin käyttäjiin. Viime vuonna vanhempi nosti laittoman kuoleman oikeusjutun luonnetta vastaan, väittäen, että sen AI -chatbotit olivat ”kohtuuttoman vaarallisia” sen jälkeen, kun heidän lapsensa, jotka olivat usein vuorovaikutuksessa robottien kanssa, kuolivat itsemurhassa. Toinen oikeusjuttu syytti yritystä teini -ikäisten paljastamisesta haitalliselle sisällölle. Vastauksena Character.AI on ottanut käyttöön vanhempien ohjaimet ja kehittänyt erikoistuneen AI -mallin nuoremmille käyttäjille arkaluontoisten aiheiden suodattamiseksi.
"Lapsemme eivät ole teknologiayritysten laboratorio -rotita kokeilemaan mielenterveyden kustannuksia", senaattori Padilla totesi. "Tarvitsemme CHATBOT -käyttäjien terveen järjen suojauksia estääksemme kehittäjiä käyttämästä strategioita, jotka he tietävät olevan riippuvuutta ja saalistavia."
Kun hallitukset herättävät pyrkimyksiä sääntelemään sosiaalisen median alustoja, AI -chatbotit saattavat pian kohdata samanlaisen tarkastuksen. Jos tämä Kalifornian lakiesitys hyväksytään, se voisi luoda ennakkotapauksen tuleville AI -määräyksille, joiden tarkoituksena on suojata lasten verkossa.