Openai on kieltänyt useita Kiinasta peräisin olevia tilejä, jotka ovat väärinkäyttäneet CHATGPT-tekniikkaa AI-käyttöisen sosiaalisen median valvontatyökalun kehittämiseksi. Näissä tileissä käytettiin chatgPT: tä kirjoittamaan myyntipisteitä ja virheenkorjauskoodia ohjelmalle, joka on suunniteltu seuraamaan kiinalaisten vastaisia tunteita alustoilla, kuten X (entinen Twitter), Facebook, YouTube ja Instagram. Työkalun tarkoituksena oli tunnistaa Kiinan ihmisoikeusrikkomusten vastaisia mielenosoituspyyntöjä, jotka aikovat jakaa nämä oivallukset Kiinan viranomaisten kanssa. Lisäksi ryhmä käytti chatgPT: tä tuottamaan tietojenkalasteluviestejä asiakkaille Kiinassa.
Tämä toiminta on osa Openain laajempaa pyrkimyksiä estää AI -malliensa väärinkäyttö haitallisiin toimiin, mukaan lukien valvonta ja vaikutusvalta. Aiheeseen liittyvässä tapauksessa Openai kielsi Pohjois -Koreaan liittyvät tilit, jotka tuottivat vääriä ansioluetteloita ja online -profiileja vilpillisesti turvaamaan työllisyyttä länsimaisissa yrityksissä. Toinen tapaus sisälsi Kambodžassa finanssipetoksen operaatiota ChatgPT: n avulla kääntää ja tuottaa kommentteja sosiaalisen median alustoilla.
Yhdysvaltain hallitus on ilmaissut huolensa autoritaaristen järjestelmien AI -tekniikoiden mahdollisesta käytöstä tukahduttaa erimielisyys ja väärien tietojen levittäminen. Openai'sennakoivat toimenpiteetTällaiseen toimintaan osallistuvien tilien tunnistamiseksi ja estämiseksi korostaa AI -yrityksiä koskevia haasteita varmistaakseen, että niiden tekniikoita ei käytetä haitallisiin tarkoituksiin. Kun AI -työkalut muuttuvat yhä helpommaksi, vastuu seurata ja estää väärinkäyttöä on edelleen kriittinen prioriteetti sekä kehittäjille että päätöksentekijöille.
Samoin kiinalainen AI -startup Deepseek on joutunut sääntelytoimiin eri maissa tiedonsuojan ja turvallisuuden huolenaiheiden vuoksi. Etelä-Korean henkilökohtaisen tiedonsuojelukomission keskeytti Deepseekin AI-sovellusten uudet lataukset viitaten henkilökohtaisten tietosuojasääntöjen noudattamatta jättämiseen. Suspensio pysyy, kunnes sovellus täyttää tarvittavat tietosuojalaki -standardit, vaikka verkkopalvelu on edelleen saatavissa. Lisäksi Italian tietosuojaviranomainen esti Deepseekin chatbotin tietosuojakysymyksistä, mikä heijastaa AI -sovellusten kasvavaa globaalia tarkastusta, joka voi vaarantaa käyttäjätiedot.
Lisätietoja:OpenAi voi rakentaa chatgpt-moottorilla olevaa sosiaalista verkostoa kilpailijalle X ja Instagram
Nämä tapaukset korostavat maailmanlaajuisia haasteita AI -tekniikoiden sääntelyssä, innovaatioiden tasapainottamisessa välttämättömyyden kanssa käyttäjän yksityisyyden suojaamiseksi ja väärinkäytön estämiseksi. Kun AI kehittyy edelleen, yritykset ja hallitukset maailmanlaajuisesti kamppailevat perustamalla kehyksiä, jotka edistävät teknistä kehitystä turvaamalla eettiset standardit ja ihmisoikeudet.