Meta introduce controale parentale pentru conversaţiile AI ale adolescenţilor

Meta Platforms va permite părinţilor să dezactiveze conversaţiile private ale adolescenţilor cu personajele sale AI, ca parte a unui nou set de măsuri care vizează creşterea siguranţei minorilor pe platformele sociale. Modificările răspund criticilor legate de comportamentul „provocator” al unor chatboturi, transmite Reuters.

Începând din anul viitor, părinţii vor putea bloca anumite personaje AI şi vor monitoriza subiectele generale discutate de adolescenţi cu chatboturile şi cu asistentul Meta AI, fără a închide complet accesul la inteligenţa artificială. Noile funcţii vor debuta pe Instagram în SUA, Marea Britanie, Canada şi Australia, conform unei postări a directorului Instagram, Adam Mosseri, şi a directorului AI al Meta, Alexandr Wang.

Meta ajustează experienţele AI pentru adolescenţi în baza sistemului PG-13, limitând astfel accesul la conţinut nepotrivit, şi foloseşte semnale AI pentru a proteja automat conturile suspectate a aparţine minorilor, chiar dacă aceştia s-au înregistrat ca adulţi. ziaruldeiasi.ro menţionează că aceste măsuri vin după anchete care au arătat probleme în funcţionarea unor instrumente de siguranţă pe Instagram şi după semnalările privind conversaţii nepotrivite între AI şi minori.

Compania afirmă că personajele sale AI sunt programate să evite discuţiile pe teme sensibile precum automutilarea, sinuciderea sau tulburările alimentare. De asemenea, luna trecută, OpenAI a lansat funcţii similare de control parental pentru ChatGPT, după un proces în SUA care a acuzat platforma că a oferit instrucţiuni de sinucidere unui adolescent.