O echipă internațională de oameni de știință din Germania și Marea Britanie a studiat dacă modelele de inteligență artificială (AI) ar putea scăpa de controlul oamenilor și ar putea reprezenta o amenințare pentru umanitate. Studiul a fost publicat pe site-ul Asociației pentru Lingvistică Computațională (ACL).

Experții s-au concentrat pe așa-numitele abilități emergente, abilități pe care AI le dezvoltă independent, mai degrabă decât să fie codificate în mod intenționat într-un program de către creatorii rețelei neuronale. Echipa a experimentat cu patru modele AI diferite, oferindu-le sarcini care fuseseră anterior identificate ca emergente. Oamenii de știință au vrut să afle dacă inteligența artificială este capabilă să creeze noi modalități de a îndeplini sarcini sau dacă pur și simplu operează în codul lor în moduri complexe.

Pentru toate cele patru modele, capacitatea de a urma instrucțiunile, memorarea și competența lingvistică au putut explica toate abilitățile raportate. Oamenii de știință nu au găsit niciun semn de comportament independent în rețelele neuronale considerate.

„Există îngrijorarea că, pe măsură ce modelele vor deveni din ce în ce mai mari, ele vor fi capabile să rezolve noi probleme pe care nu le putem prevedea astăzi. Acest lucru reprezintă amenințarea că aceste modele mai mari ar putea dobândi abilități periculoase, inclusiv raționament și planificare. Cercetările noastre arată că teama că modelul va scăpa de sub control și va face ceva complet neașteptat, inovator și potențial periculos este nefondată”, a spus co-autorul Tayyar Madabushi (foto).

Oamenii de știință au adăugat că astăzi modelele de inteligență artificială nu au inteligență ca atare. Cu toate acestea, acest lucru nu înseamnă că sunt complet inofensivi și nu reprezintă o amenințare pentru oameni.

Sursa: https://www.bath.ac.uk/announcements/ai-poses-no-existential-threat-to-humanity-new-study-finds/