Cristiano Castelfranchi
Istituto di Scienze e Tecnologie della Cognizione – CNR, Roma
cristiano.castelfranchi@istc.cnr.it
– For a Science-oriented, Socially Responsible, and Self-aware AI: beyond
Ethical Issues
Citation standard
CASTELFRANCHI, Cristiano. For a Science-oriented, Socially Responsible, and Self-aware AI: beyond Ethical Issues. Laboratorio dell’ISPF. 2022, vol. XIX [4]. DOI: 10.12862/Lab22CSC.
Online: 31.12.2022
Abstract
Are we ready for the anthropological revolution grounded on Intelligent Technologies and artificial mixed society? Which also is an economic, social, and political revolution. AI is not just building a new technology but a new Socio-Cognitive-Technical System, a new world and a new form of society and culture. It is an anthropological revolution. Is our Intelligent Technology research only business oriented? AI should be more “science oriented”. As for the possible dangers of AI impact, there is a dominant limited view, focused only on ethical issues, and on a reliable and transparent and explainable AI. My question is political not just ethical: AI revolution is empowering whom? AI can play a very important role “for freedom”. It can also be a revolutionary “Awareness technology”. It can improve not only personal and collective intelligence but collective awareness as well: understanding what we are doing and why we are doing it; who is “nudging” us.
Keywords
AI impact; AI Ethical issues; Responsible AI
Sommario
[Per un’IA orientata alla scienza, socialmente responsabile e consapevole di sé: al di là delle questioni etiche]. Siamo pronti per una rivoluzione antropologica fondata sulle tecnologie intelligenti e sulla società mista artificiale? Che è anche una rivoluzione economica, sociale e politica. L’IA sta costruendo non solo una nuova tecnologia, ma anche un nuovo sistema socio-cognitivo-tecnico, un nuovo mondo e una nuova forma di società e cultura. È una rivoluzione antropologica. La nostra ricerca sulle tecnologie intelligenti è orientata solo al business? L’IA dovrebbe essere più “orientata alla scienza”. C’è una visione dominante limitata circa i possibili pericoli dell’impatto dell’IA, focalizzata soltanto sulle questioni etiche e sull’IA affidabile, trasparente e spiegabile. La mia domanda è politica, non solo etica: la rivoluzione dell’IA sta dando potere a chi? L’IA può svolgere un ruolo molto importante “per la libertà”. Può anche essere una rivoluzionaria “tecnologia della consapevolezza”. Può migliorare non solo l’intelligenza personale e collettiva, ma anche la consapevolezza collettiva: dobbiamo capire che cosa stiamo facendo e perché lo stiamo facendo; chi ci sta “spingendo”.
Parole chiave
Impatto dell’IA; Questioni etiche dell’IA; IA responsabile