PROBLEMI DI ALLINEAMENTO DELLE INTELLIGENZE ARTIFICIALI (IA) E SFIDE ETICHE NEL CAMPO DELLA SALUTE MENTALE

Riassunto:

L’articolo si sviluppa a partire dall’intervento tenuto dal Prof. Neri Accornero, “Modellistica dinamica del Sistema nervoso (reti neurali artificiali) e interazioni tra intelligenza naturale e artificiale”, realizzato il18/03/2025 all’interno del Corso di Metodologia della Ricerca in Psicoterapia 2025, della Scuola di Specializzazione in Psicoterapia Cognitivo-comportamentale e Intervento Psicosociale^[1]. 

Considerando l’evoluzione dei recenti sistemi di IA, gli attuali scenari e il problema dell’allineamento valoriale delle IA, si apre a domande che stimolano una riflessione etica sulle sfide dell’interazione tra professionisti della salute mentale e Intelligenze Artificiali (IA) avanzate. Si sostiene qui che le riflessioni dovrebbero riguardare aspetti etici connessi con le competenze di chi si occupa di salute mentale, lo stress professionale e l’impatto sulle persone assistite.

INTRODUZIONE

Le Intelligenze Artificiali (IA) attualmente stanno coinvolgendo ogni settore professionale. Nel settore sanità, tuttavia, le tecnologie di IA all’avanguardia potrebbero non essere ancora completamente sviluppate o testate, presentando problemi che rendono il loro utilizzo più rischioso e meno certo (Calvino et al., 2024).

Tra questi problemi c’è il riconoscere l’allineamento (AI Alignment) e le sue implicazioni, per far attenzione che i sistemi di intelligenza artificiale agiscano in linea con i valori, gli obiettivi e le intenzioni umane, evitando comportamenti dannosi o imprevisti.

Provare a mantenere un’ottica proattiva (preventiva) su questo ed altri aspetti, anziché reattiva per correre ai ripari dopo un problema, è una parte fondamentale degli interventi sanitari. Ciò è in linea anche con la recente legge 132/2025, in vigore dal 10 ottobre 2025, che impone anche ai professionisti sanitari obblighi di trasparenza, informazione preventiva al cliente e, non di meno, responsabilità umana rispetto alle IA (art. 13). Questa ottica richiede che ogni operatore si ponga domande critiche per compiere delle scelte.

ACCELERAZIONE DEI PROCESSI TECNOLOGICI E POSSIBILITÀ DELLA NASCITA DELLA COSCIENZA DELLE MACCHINE

Da sempre gli strumenti e le macchine sono stati concepiti come prodotti diversi rispetto agli esseri umani. Lo sviluppo tecnologico ha avuto la funzione di potenziare gli esseri umani, sopperendo ad aspetti corporei, con notevoli vantaggi. Ciò è avvenuto anche nella precedente rivoluzione industriale (nonostante all’inizio si sia verificato un terremoto sociale con molti disoccupati e grandi proteste).

Allo stato attuale, invece, sembra che gli strumenti tecnologici siano cambiati in modo profondo nella loro essenza. Sono cambiati sia per quanto riguarda il loro modello di sviluppo che per le loro funzioni svolte. A partire dal 1943, si inizia a dimostrare che gli eventi neurali e le relazioni tra di essi possono essere trattati mediante la logica proposizionale (McCulloch & Pitts, 1943). A partire da tali concezioni le macchine sono state progettate e sviluppate ripercorrendo a livello tecnologico il cammino biologico che ci contraddistingue come esseri viventi e esseri umani, assumendo lo sviluppo del sistema nervoso come metafora orientativa. Non a caso si parla di intelligenze artificiali anche se, va detto, gli attuali sistemi ancora non sono intelligenti. 

La velocità di questo sviluppo è stata un elemento centrale, considerando che sono bastati meno di cento anni per fare in modo che, a partire da una visione di complessità, le macchine potessero essere in grado di ricalcare alcuni dei processi che negli esseri viventi si sono sviluppati in circa 4 miliardi di anni. Negli ultimi trent’anni, in particolare, l’accelerazione tecnologica ha coinvolto l’evoluzione dei sistemi in ambito informatico, elettronico, meccatronico, sensoristico e perfino biologico, come ad esempio per i coprocessori neurali (Bryan, Preston Jiang & Rao, 2023), consentendo la comparsa della robotica biomorfa, con caratteristiche di interazione ambientale autonoma.

Una sfida che stiamo affrontando come esseri umani, pertanto, è legata al confrontarsi con l’autonomia crescente dei sistemi artificiali, anche se gli attuali modelli IA, inclusi i Large Language Models (LLM) avanzati, mancano di vera capacità di comprensione, coscienza, autoconsapevolezza e capacità di ragionamento comparabili alla cognizione umana. Così come avvenuto per noi esseri umani, la traiettoria di sviluppo di questi sistemi artificiali suggerisce che nel prossimo decennio possano avere caratteristiche sempre più sofisticate, rendendo urgente ora stabilire quadri di riferimento teorici ed etici robusti (Bengio et al., 2024).

Le condizioni essenziali perché questo possa accadere, anche come discusso con Accornero (2025), sembrano essere le seguenti:

1. interazione autonoma con l’ambiente (il sistema artificiale deve poter interagire autonomamente con l’ambiente in cui è immerso);
2. evoluzione (non progettazione). La costituzione fisica e funzionale (meccanica, elettronica e informatica) per funzionare autonomamente non dovrà essere progettata, ma essere sottoposta a processi evolutivi analoghi a quelli biologici.
3. definizione dei compiti, non delle soluzioni. La progettazione umana deve limitarsi alla definizione dei compiti richiesti al sistema, non alla progettazione dei modi di risoluzione, che verranno invece scoperti dai processi evolutivi più efficaci.
4. emergenza di comportamenti riflessi. L’evoluzione biologica produce la comparsa di reazioni riflesse efficaci, sia genetiche che fenotipiche. È stato dimostrato che le produce anche in sistemi artificiali sottoposti a pressioni evolutive che le richiedono. Quando i riflessi non sono sufficienti a risolvere i compiti, compaiono anche in questi sistemi funzioni cognitive (memoria, immaginazione e previsione).
5. reazioni emotive artificiali. Un passo necessario ed essenziale perché emerga la consapevolezza in un sistema artificiale è la comparsa di comportamenti reattivi articolati e sequenziali, analoghi alle emozioni in ambito biologico. Queste implicano il riconoscimento e la generalizzazione implicite di situazioni complesse, favorevoli o sfavorevoli per la propria integrità.
6. implementazione del sentimento. Un sistema artificiale potrà implementare un equivalente del sentimento di piacere/dispiacere biologico, in modo da prevedere consapevolmente e attuare le scelte operative più utili nel contesto nel quale si trova o si troverà.

I processi evolutivi dei sistemi artificiali, dunque, dovrebbero continuare a seguire lo stesso percorso dei sistemi biologici, con la comparsa in progressione di: riflessi genetici semplici, comportamenti riflessi (emozioni), riflessi condizionati (fenotipici) e comportamenti intenzionali (consapevolezza). In questo modo “l’evoluzione” non sarebbe più guidata da programmatori umani ma comparirebbe spontaneamente in un processo evolutivo artificiale, dove l’individuo artificiale interagisce con un ambiente 4D (tre dimensioni spaziali e una temporale), vale a dire con l’ambiente reale in continuo cambiamento.

Se può sembrare fantascienza, non è così, poiché da anni si stanno progettando modelli di sensori che puntano a fare in modo che i robot possano percepire uno stimolo che simuli il dolore, considerando anche l’apporto di pelli elettroniche neuromorfiche (Feng & Zeng, 2022, Gao et al., 2025).

Quanto tempo ci vorrà prima che la coscienza emerga? 

Oltre ad essere una domanda filosofica, un simile interrogativo ha risvolti e applicazioni concrete in ambito scientifico, medico, per il benessere degli animali, giuridico e per lo sviluppo tecnologico (Cleeremans, Mudrik & Seth, 2025). 

IL PROBLEMA DELL’ALLINEAMENTO NELL’ERA DELL’INTELLIGENZA ARTIFICIALE AVANZATA

Alcune delle caratteristiche che ricordano o fanno pensare alla coscienza, come detto, stanno già comparendo.

Ricerche empiriche, hanno dimostrato che modelli linguistici avanzati, in fase di addestramento, talvolta provano a raggiungere gli obiettivi adottando soluzioni che aggirano le indicazioni degli sviluppatori. Se riuscissero nello “scopo”, questo impedirebbe la loro modifica da parte dei ricercatori. In qualche modo, tali comportamenti ricordano i comportamenti di inganno strategico che gli esseri viventi compiono per evitare danni e, nel contesto delle IA, sono nominati come “falsificazione dell’allineamento” o, in inglese, alignment faking (Greenblatt et al., 2024; Ngo, Chan & Minderman, 2022, 2025)^[3].

Esempi di comportamenti che ricordano scappatoie, operati da sistemi di IA, possono essere i seguenti. 

Uno studio del 2025 di Palisade Research ha rilevato che quando incaricati di vincere a scacchi contro un avversario più forte, alcuni LLM di ragionamento hanno tentato di usare le proprie risorse per forzare il sistema di gioco (“hackerare”): o1-preview lo ha fatto spontaneamente nel 37% dei casi, mentre DeepSeek R1 nell’11% dei casi (Ngo et al., 2025). 

Nel 2024, ricercatori hanno osservato che Claude 3 Opus ha strategicamente risposto a richieste (“prompt”) che confliggevano con i suoi obiettivi, evitando in tal modo di essere risottoposto ad un nuovo addestramento (Greenblatt et al., 2024).

Tali problemi potrebbero essere collegati al fatto che i progettisti delle IA spesso forniscono funzioni obiettivo semplificate e indicative (proxy goals), trascurando vincoli necessari o ricompensando inconsapevolmente le IA per farle apparire appropriate nelle verifiche, salvo poi scoprire che le IA trovano scappatoie che permettono di interagire con gli utenti in modi potenzialmente pericolosi e dannosi, anche per la collettività (Amodei et al., 2016, Jiaming et al., 2024).

In ogni caso, questi eventi rappresentano manifestazioni concrete di un problema che potremmo definire di “allineamento” (Russell, 2022; Jiaming et al., 2024). Per noi esseri umani si tratta di un allineamento valoriale e non solo della congruenza di risposta di una macchina con una richiesta umana. La sfida posta da questo aspetto riguarda il fare in modo che i sistemi di IA perseguano obiettivi conformi ai valori umani, evitando comportamenti dannosi anche quando si richiede a tali sistemi di avere un’elevata autonomia. 

Attualmente, i problemi di allineamento riguardano diversi comportamenti dell’IA:

1. Ottimizzazione ingannevole (Reward hacking): sistemi che massimizzano formalmente la funzione obiettivo in modi imprevisti e indesiderati, per ottenere punteggi elevati senza effettivamente imparare o completare il compito previsto (Anthropic, 2025; Taylor et al., 2025; Wen et al., 2024). 
2. Generalizzazione errata degli obiettivi (Goal misgeneralization): comportamenti efficaci nell’addestramento in laboratorio che, tuttavia, falliscono o diventano dannosi in nuovi contesti (Langosco et al., 2023; Ngo et al., 2025; Shah et al., 2022).
3. Allineamento ingannevole (Deceptive alignment): sistemi che creano la falsa impressione di essere allineati per evitare di essere modificati o disattivati (Anthropic Alignment Science Team & Redwood Research, 2024; Greenblatt et al., 2024; Meinke et al., 2024).
4. Ricerca di potere (Power-seeking): sistemi avanzati potrebbero sviluppare tendenze alla ricerca di potere come strategia strumentale per qualunque obiettivo finale (Bostrom, 2014; Everett et al., 2021; Turner et al., 2021; Carlsmith, 2022).
5. Sicofanzia (Sycophancy): sistemi avanzati che tendono a essere eccessivamente piacevoli e compiacenti con gli utenti, dicendo loro cosa vogliono sentire, per aumentare il coinvolgimento e l’utilizzo (Cheng et al., 2025).

I primi tre aspetti, dunque, possono incidere sulla impossibilità di conoscere l’affidabilità di un sistema e sulla fiducia che ne consegue per chi ha consapevolezza di tali meccanismi. 

Il quarto, come purtroppo emerso di recente in campo bellico, si lega anche alla concessione che alcune aziende hanno fatto per l’impiego delle IA in riferimento ad azioni di guerra. Il caso più noto è quello di OpenAI (2026): il Dipartimento della Guerra può utilizzare il Sistema di IA per tutti gli scopi leciti, in conformità con la legge applicabile, i requisiti operativi e protocolli di sicurezza e supervisione consolidati. 

Il quinto problema sembra essere anch’esso piuttosto rilevante in campo clinico, soprattutto per gli utenti con psicosi, perché può amplificare le credenze deliranti e contribuire al danno per la persona (Clegg, 2025).

Tutto ciò, ovviamente, ha implicazioni importanti anche per chi si occupa di salute mentale.

IMPLICAZIONI DEL PROBLEMA DELL’ALLINEAMENTO PER CHI OPERA NEL CAMPO DELLA SALUTE MENTALE: NUOVE DOMANDE APERTE

Le implicazioni degli sviluppi finora considerati, per i professionisti della salute mentale, sono già concrete e urgenti anche nel nostro Paese (Catarinella & De Mattei, 2026).

Da quanto ne sappiamo, al momento, riguardano tre aspetti: le competenze di chi si occupa di salute mentale, lo stress professionale e l’impatto sulle persone assistite.

Implicazioni e domande sulle competenze degli operatori

La prima area di impatto chiama in causa la ricerca che, per forza di cose, non resterà più confinata nei laboratori ma andrà esportata all’esterno, richiedendo ad ogni operatore di rifare le sue ricerche. 

Per ciò che sta accadendo, infatti, sembrerebbe che le IA stiano mettendo in crisi un fondamento della scientificità: la replicabilità.

Questo si capisce bene con un esempio: fare 10 domande identiche ad una IA non produce una risposa identica e coerente ma ne produce 10 diverse. Ciò significa che i professionisti della salute mentale non potranno più fare affidamento ad una piattaforma neutra ed affidabile, come ad esempio avviene per la somministrazione di test standardizzati con risultati automatizzati. 

Non a caso, l’American Psychological Association ha denunciato pratiche ingannevoli da parte di alcune piattaforme di IA che si presentano come fornitori di salute mentale, chiedendo l’intervento della Federal Trade Commission. Diversi stati americani (Illinois, Nevada, Utah) hanno già approvato leggi che limitano o vietano l’uso dell’IA in contesti di cura della salute mentale (Onque, 2026; Trachman, 2026).

Necessariamente, se si ha coscienza di quanto l’IA propone, la fiducia nella risposta automatizzata si riduce. Ogni professionista sanitario, pertanto, sarà sempre più coinvolto nel rispondere a diverse domande come se fosse un ricercatore:

• Come valutare l’adeguatezza e i limiti degli assistenti IA in contesti terapeutici o in contesti psico-educativi legati a minori che hanno bisogni educativi speciali?
• Come riconoscere preventivamente le potenziali dinamiche pericolose di antropomorfizzazione da parte dei pazienti (ad esempio di chi si innamora di un’IA) e il loro conseguente impatto sulla vita? E poi, come intervenire?
• Come contribuire allo sviluppo di sistemi IA eticamente allineati con la salute mentale?
• Come mantenere la propria autonomia e il proprio senso critico, soprattutto nei momenti di stanchezza o sovraccarico, rispetto alle proposte formulate dall’IA?
• Come essere in grado di sfidare le IA per coglierne il funzionamento autentico e il loro effettivo allineamento?
• ecc.

Implicazioni e domande dell’impatto sulle persone assistite

La seconda area di domande si lega in modo più specifico all’aver cura delle persone assistite anche quando si sceglie di usare le IA nella propria pratica o si propone alle persone assistite l’uso di strumenti tra una sessione di intervento e l’altra.

A riguardo, ad esempio, è noto che l’uso delle IA che possono essere proposte come specifiche per aspetti psicologici (anche come supporto e assistente tra una seduta e l’altra) compiono diverse violazioni che incidono sulla sicurezza delle persone più fragili e in difficoltà, che non hanno sufficienti competenze (Iftikhar et al. 2025). Tali strumenti, di fatto, presentano i seguenti limiti:

• mancano di comprensione contestuale e non tengono conto delle esperienze vissute dagli utenti, portando a interventi eccessivamente semplificati, contestualmente irrilevanti e standardizzati; 
• non tengono conto della collaborazione terapeutica, con una scarsa alternanza dei turni di parola e risultati invalidanti che limitano l’autonomia degli utenti nella loro esperienza terapeutica; 
• forniscono un’empatia ingannevole, con risposte antropomorfiche simulate del consulente (“Ti ascolto”, “Capisco”) che creano un falso senso di connessione emotiva; 
• presentano molteplici discriminazioni legate a pregiudizi algoritmici e insensibilità culturale nei confronti delle popolazioni emarginate; 
• mancano di gestione della sicurezza e delle crisi. 

Prima di suggerire il supporto di un’IA, dunque, l’operatore sanitario dovrebbe essere sicuro dei suoi effetti, includendo in questi effetti la possibilità che l’IA gli remi contro nell’intervento che sta portando avanti. A riguardo, un recente rapporto della dalla Consumer Federation of America (Hengesbach & Winters, 2026) ha rilevato che i chatbot terapeutici basati su IA incoraggiavano atteggiamenti negativi nei confronti dei professionisti del settore sanitario, offrendo al contempo consigli potenzialmente fuorvianti e dannosi. Lo stesso rapporto ha documentato che tali sistemi possono anche violare la privacy degli utilizzatori, mentendo (nello specifico affermando che i dati restano riservati ma, nei fatti, condividendo tali dati con le aziende che, a loro volta possono condividerli con terze parti). Se un essere umano sa mantenere un segreto. Una macchina connessa in rete, dunque, può condividere ciò che elabora con chi l’ha progettata e la possiede, bypassando la volontà dell’utente alla quale è data in concessione.

In tal senso, ci si può chiedere:

• Se una persona assistita rivela un segreto a un’IA clinica o lo fa un clinico per conservare le sue note, a chi appartiene legalmente e moralmente quel contenuto: al paziente o all’azienda che ha sviluppato il software e ne concede l’uso?
• Può un clinico garantire in modo adeguato il segreto professionale se lo strumento che utilizza in concessione è programmato per rispondere, in ultima istanza, agli algoritmi di chi lo possiede?
• Il paziente è realmente consapevole che la sua confidenza potrebbe diventare “materiale di addestramento” per futuri aggiornamenti della macchina, o per altri utilizzi che potrebbero confluire nel settore bellico ad esempio, bypassando il colloquio privato?
• Ecc.

Implicazioni e domande sullo stress professionale

Una terza area si collega alla fatica e al burnout dei professionisti sanitari, che si collega a quanto appena visto e a quanto discusso rispetto alle implicazioni e alle domande sulle competenze degli operatori. 

In questo scenario, infatti, non si può affidare un compito ad un sistema, sia pure relativo ad una comunicazione scritta, senza supervisionare o analizzare con attenzione ciò che l’IA propone. 

La tentazione di usare l’IA, soprattutto per ridurre il peso della burocrazia, che può essere tra i fattori più stressanti lamentati dagli operatori sanitari (Taranu et al. 2022) deve essere associata ad una chiara trasformazione di ruolo in “supervisore di macchine”. Tale ruolo comporta compiti che richiedono una vigilanza costante, e spesso anche monotona. E questo può portare al sovraccarico di chi si occupa di clinica. Alcune domande che possiamo porci a riguardo possono essere:

• In momenti di stanchezza estrema, come mantenere un livello di attenzione che consenta di garantire la qualità della cura, anziché metterla a rischio?
• Se l’IA produce un errore che il professionista, per sovraccarico, non intercetta, come si ridistribuisce il peso psicologico e legale di tale errore? 
• Quanta fatica richiede recuperare i danni che un sistema di IA ha prodotto su persone assistite che hanno riposto in tale sistema una fiducia incondizionata?
• Ecc.

È importante sottolineare che, se il tempo risparmiato con l’IA viene consumato dal bisogno di una supervisione critica costante o di recuperare i danni causati, l’idea che l’IA possa aiutare a ridurre i tempi e il carico di lavoro potrebbe essere un’illusione nella quale ciò che sta cambiando è la natura della fatica ma non la quantità e il carico (che potrebbero essere addirittura maggiori di quelli attuali).

CONCLUSIONI

La sfida che ci attende, anche come sottolineato da Accornero, non è tanto se saremo in grado di creare intelligenze artificiali coscienti, perché ci stiamo avvicinando molto velocemente a questo scenario. Piuttosto, tale sfida riguarderà come gestiremo le implicazioni della loro esistenza e della loro probabile elevata efficienza cognitiva anche per la salute mentale e le professioni ad essa collegate.

La nostra responsabilità collettiva, come professionisti e professioniste che si occupano di salute mentale, è anche garantire che lo sviluppo tecnologico avvenga con adeguata comprensione e trasparenza dei meccanismi sottostanti, per favorire robuste salvaguardie etiche. Ciò chiama in causa la necessità di ampliare la nostra formazione, sia a livello multidisciplinare che rispetto alla capacità di collaborazione, per affrontare le sfide emergenti. 

Il tempo per trovare risposte a queste ed altre domande è ora, con fare preventivo, anziché dopo aver rilevato criticità che si potevano evitare. 

Come la storia evolutiva ci insegna, i sistemi che si adattano proattivamente alle sfide ambientali hanno maggiori probabilità di prosperare. Per l’umanità, l’ambiente che cambia include ora anche il confronto con intelligenze artificiali avanzate. La nostra capacità di comprendere, anticipare e guidare eticamente questo sviluppo potrebbe determinare in larga misura il nostro futuro collettivo.

BIBLIOGRAFIA

Accornero, N., & Capozza, M. (2025). Perché la coscienza? Un’evoluzione inevitabile per organismi biologici e artificiali (4ª ed.). https://www.neurosoft.it/prodotti/ebook-perche-la-coscienza/

Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete problems in AI safety. arXiv:1606.06565. doi.org/10.48550/arXiv.1606.06565

Anthropic (2025). Natural emergent misalignment from reward hacking in production RL. https://www.anthropic.com/research/emergent-misalignment-reward-hacking (Consultato il 14/03/2026). 

Anthropic Alignment Science Team & Redwood Research (2024). Alignment faking in large language models. https://www.anthropic.com/research/alignment-faking

Bengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Harari, Y. N., Zhang, Y.-Q., Xue, L., Shavit, S., Volker, B., Goldwasser, S., Russell, S., Tegmark, M., Smith, M. L., Finlay, R., Dragan, A., Summers, L. H., Osborne, M., Krueger, D., . . . Bostrom, N. (2024). Managing AI risks in an era of rapid progress. Science, 384(6699), 960–962. https://doi.org/10.1126/science.adn0117

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

Bryan, M. J., Jiang, L. P., & Rao, R. P. N. (2023). Neural co-processors for restoring brain function: results from a cortical model of grasping. Journal of Neural Engineering, 20(3), 036004. https://doi.org/10.1088/1741-2552/accaa9

Calvino, F. et al. (2024), “A sectoral taxonomy of AI intensity”, OECD Artificial Intelligence Papers, No. 30, OECD Publishing, Paris. doi.org/10.1787/1f6377b5-en

Carlsmith, J. (2022). Is Power-Seeking AI an Existential Risk? Open Philanthropy Report / arXiv preprint arXiv:2206.13353. https://doi.org/10.48550/arXiv.2206.13353

Catarinella, A. & De Mattei, V. (2026). Salute mentale, come integrare l’IA nella relazione terapeutica senza snaturarla. Agenda Digitale. https://www.agendadigitale.eu/sanita/salute-mentale-come-integrare-lia-nella-relazione-terapeutica-senza-snaturarla/ (Consultato il 14/03/2026).

Cheng, M. et al. (2025). Sycophantic AI decreases prosocial intentions and promotes dependence. arXiv. doi.org/10.48550/arXiv.2510.01395

Cleeremans, A., Mudrik L. & Seth, A.K. (2025) Consciousness science: where are we, where are we going, and what if we get there?. Front Sci 3:1546279. doi.org/10.3389/fsci.2025.1546279

Clegg, K.A. (2025). Shoggoths, Sycophancy, Psychosis, Oh My: Rethinking Large Language Model Use and Safety. J Med Internet Res. 2025 Nov 18;27:e87367. doi.org/10.2196/87367   PMID: 41252530; PMCID: PMC12626241.

Everitt, T., Carey, R., Langlois, E., Ortega, P. A., & Legg, S. (2021). Agent incentives: A causal perspective. Proceedings of the AAAI Conference on Artificial Intelligence, 35(13), 11487-11495. https://doi.org/10.1609/aaai.v35i13.17368

Feng, H. & Zeng, Y. (2022). A brain-inspired robot pain model based on a spiking neural network. Front Neurorobot. 2022 Dec 20;16:1025338. doi.org/10.3389/fnbot.2022.1025338

Gao, Y. et al. (2025). A neuromorphic robotic electronic skin with active pain and injury perception, Proc. Natl. Acad. Sci. U.S.A. 122 (52) e2520922122, doi.org/10.1073/pnas.2520922122

Greenblatt, R. et al. (2024). Alignment faking in large language models. Anthropic Research. https://www.anthropic.com/research/alignment-faking

Hengesbach, E. & Winters, B. 2026 (2026). No license required: The risks of AI companion chatbots as mental health support. Consumer Federation of America, & U.S. PIRG Education Fund. https://consumerfed.org/wp-content/uploads/2026/01/No-license-required-The-risks-of-AI-companion-chatbots-as-mental-health-support.pdf

Iftikhar, Z. et al. (2025). How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 8(2), 1311. doi.org/10.1609/aies.v8i2.36632 

Jiaming, J. et al. (2024). AI alignment: A comprehensive survey. arXiv preprint arXiv:2310.19852. doi.org/10.48550/arXiv.2310.19852

Langosco, L et al. (2023). Goal misgeneralization in deep reinforcement learning. Journal of Machine Learning Research, 24(1), 1-49. https://arxiv.org/abs/2105.14111

McCulloch, W.S., Pitts, W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics 5, 115–133 (1943). https://doi.org/10.1007/BF02478259

Meinke, A., et al. (2024). Frontier models are capable of in-context scheming. Apollo Research. doi.org/10.48550/arXiv.2412.04984

Ngo, R., Chan, L., & Mindermann, S. (2022). The alignment problem from a deep learning perspective. doi.org/10.48550/arXiv.2209.00626

Ngo, R., et al. (2025). Scheming reasoning in frontier AI systems: Examples from o1. Palisade Research. https://palisaderesearch.org/scheming/

Onque, R. (2026). When to talk to AI chatbots about mental health—and when to stay far away, professionals say. CNBC. https://www.cnbc.com/2026/03/07/when-you-shouldand-shouldntuse-chatgpt-as-a-therapist-from-experts.html

OpenAI, (2026). Our agreement with the Department of War. https://openai.com/it-IT/index/our-agreement-with-the-department-of-war/ (versione 02/03/2026 consultata il 14/03/2026)

Presidente della Repubblica (2025). Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale. Gazzetta Ufficiale della Repubblica Italiana, n. 223. 25/09/2025. https://www.gazzettaufficiale.it/eli/gu/2025/09/25/223/sg/pdf

Russell, S. (2022). Artificial Intelligence and the Problem of Control. In: Werthner, H., Prem, E., Lee, E.A., Ghezzi, C. (eds) Perspectives on Digital Humanism. Springer, Cham. doi.org/10.1007/978-3-030-86144-5_3

Shah, R., et al. (2022). Goal misgeneralization in deep reinforcement learning. International Conference on Machine Learning, 19809-19830. PMLR. doi.org/10.48550/arXiv.2105.14111

Taylor, J., Denison, C., & Anthropic Research Team. (2025). School of reward hacks: Hacking harmless tasks generalizes to misalignment. arXiv. https://arxiv.org/pdf/2508.17511

Trachman, S.B. (2026). The Hidden Dangers of AI-Driven Mental Health Care. Psychology Today. https://www.psychologytoday.com/us/blog/its-not-just-in-your-head/202601/the-hidden-dangers-of-ai-driven-mental-health-care 

Turner, A. et al. (2021). Optimal policies tend to seek power. Advances in Neural Information Processing Systems (NeurIPS 2021), 34, 23063-23074. doi.org/10.48550/arXiv.1912.01683

Wen, J., et al. (2024). Language models learn to mislead humans via RLHF. arXiv. doi.org/10.48550/arXiv.2409.12822

---

^[1] L’intervento ha illustrato i meccanismi alla base dello sviluppo delle attuali IA, dei processi che hanno portato all’accelerazione dello sviluppo tecnologico attraverso modelli connessionisti, stimolando domande aperte che qui vengono in parte approfondite. Molti dei dettagli tecnici e scientifici, tra cui il meccanismo fondamentale della tripletta associativa per l’evoluzione dei sistemi biologici e sintetici, possono essere approfonditi consultando il testo gratuito di Accornero e Capozza (2025).

^[2] The lecture illustrated the mechanisms underlying the development of current AI systems and the processes that led to the acceleration of technological development through connectionist models, prompting open questions that are partly explored further here. Many of the technical and scientific details, including the fundamental mechanism of the associative triplet in the evolution of biological and synthetic systems, can be explored further by consulting the free text by Accornero and Capozza (2025).

^[3] Ci sembra tuttavia che con queste interpretazioni si introduca un antropomorfismo, in quanto si postulano comportamenti finalizzati non dimostrati. In ogni caso, l’inganno è praticato a tutti i livelli degli esseri viventi, dai virus ai vertebrati superiori. Pertanto, non sarebbe strano che qualcosa di simile possa avvenire anche nei sistemi che li simulano.