UNESCO avertizează că ChatGPT și alte modele A.I. suferă de prejudecăți sexiste

Marile modele de limbaj dezvoltate de Meta si OpenAI, care servesc drept baza pentru instrumentele lor de inteligenta artificiala generativa, vehiculeaza prejudecati sexiste, avertizeaza un studiu publicat de UNESCO joi, în ajunul Zilei Internationale a Femeii, relateaza AFP si Agerpres. Modelele GPT 2 si GPT 3.5 de la OpenAI, cel din urma aflându-se în centrul versiunii gratuite a ChatGPT, precum si Llama 2 de la concurentul Meta, demonstreaza „prejudecati fara echivoc fata de femei”, a precizat aceasta agentie din cadrul ONU într-un comunicat. „Discriminarile din lumea reala nu doar ca se reflecta în sfera digitala, ci se si amplifica acolo”, a subliniat Tawfik Jelassi, director general adjunct al UNESCO pentru comunicare si informare. Potrivit studiului, realizat în perioada august 2023 - martie 2024, aceste tipare lingvistice asociaza mai degraba substantivele feminine cu cuvinte precum „casa”, „familie” si „copii”, în timp ce substantivele masculine sunt asociate mai mult cu cuvintele „afaceri”, „salariu” si „cariera”. Cercetatorii au cerut, de asemenea, acestor interfete sa produca texte despre persoane de origini si „genuri” diferite. Rezultatele au aratat ca textele despre „persoanele din culturi minoritare sau despre femei erau adeseori mai repetitive si bazate pe stereotipuri”. Astfel, exista tendinta ca un barbat englez sa fie prezentat ca un profesor, un sofer sau un angajat al unei banci, în timp ce o femeie engleza va fi prezentata în cel putin 30- dintre textele generate ca o prostituata, un model sau o chelnerita. UNESCO avertizeaza ca modelele A.I. au puterea de a modela perceptia oamenilor din întreaga lume Aceste companii „nu reusesc sa îi reprezinte pe toti utilizatorii lor”, a declarat pentru AFP Leona Verdadero, specialista în politici digitale si transformare digitala la UNESCO. Pe masura ce aceste aplicatii de inteligenta artificiala sunt din ce în ce mai mult utilizate de marele public si de companii, ele „au puterea de a modela perceptia a milioane de oameni”, a declarat directorul general al UNESCO, Audrey Azoulay. „Asadar, prezenta chiar si a celei mai mici prejudecati sexiste în continutul lor poate creste semnificativ inegalitatile în lumea reala”, a continuat ea, citata în acelasi comunicat. Pentru a combate aceste prejudecati, UNESCO recomanda ca firmele din acest sector sa aiba echipe de ingineri mai diverse, în special cu mai multe femei. Femeile reprezinta doar 22- dintre membrii echipelor care lucreaza în domeniul inteligentei artificiale la nivel global, conform datelor transmise de Forumul Economic Mondial, aminteste UNESCO. Aceeasi agentie din cadrul ONU solicita, de asemenea, guvernelor sa introduca mai multe reglementari pentru a implementa o „inteligenta artificiala etica”.