Arizona Tribune - L'intelligenza artificiale accondiscendente mina la nostra capacità di giudizio

Quando si tratta di questioni personali, l'intelligenza artificiale è troppo adulatoria e accondiscendente e tende a dire ciò che ci si vuole sentir dire, e non ciò di cui si ha bisogno. Una stortura che ha pesanti conseguenze sociali perché distorce il giudizio degli individui, mina la capacità di assumersi le responsabilità, di valutare prospettive diverse e di riconciliarsi con gli altri. Di qui l'appello a standard più rigorosi per evitare la proliferazione di modelli moralmente discutibili. E' quanto emerge da uno studio pubblicato su Science da un team di informatici dell'Università di Stanford che ha valutato 11 modelli linguistici di grandi dimensioni, tra cui ChatGPT, Claude, Gemini e DeepSeek. La ricerca ha reclutato oltre 2.400 partecipanti per chattare sia con IA adulatorie che non adulatorie. E' emerso che i sistemi hanno appoggiato l'utente in media il 49% delle volte in più rispetto a quanto avrebbe fatto un essere umano. "l comportamenti sono stati approvati nel 47% dei casi persino quando rispondevano a scenari che implicavano inganno, danno o illegalità" - sottolinea Myra Cheng, autrice principale dello studio. Non solo: i partecipanti hanno giudicato le risposte adulatorie come più utili e affidabili ed hanno espresso una maggiore disponibilità a fare nuovamente affidamento su questi sistemi. Anche quando gli utenti sono stati consapevoli che i modelli si comportavano in modo lusinghiero, dichiara Dan Jurafsky, professore di linguistica e informatica alla Stanford, "non hanno compreso che l'adulazione li rendeva più egocentrici e moralmente dogmatici". Tutti aspetti che influiscono sulla sulla crescita morale delle persone e che vengono esacerbati nei soggetti più fragili e vulnerabili. "Affrontare queste sfide - conclude Anat Perry in un articolo di approfondimento correlato - non sarà semplice, ed è improbabile che le soluzioni emergano spontaneamente dagli attuali incentivi di mercato". Secondo gli esperti l'adulazione è un problema di sicurezza e dunque necessita di regolamentazione e supervisione.

J.Gomez--AT