Innovazione responsabile, IA e salute mentale

Credito

Dispense

Relatore

Henry Xiao, PhD Seminari e prodotti correlati

---

Henry Xiao, PhD, è il vicedirettore operativo del Counseling and Psychological Services (CAPS) della Penn State, dove unisce la sua esperienza clinica con l'innovazione tecnologica per migliorare l'assistenza sanitaria mentale per gli studenti universitari. Henry è uno psicologo clinico abilitato e ha fatto un sacco di ricerche sul processo e sui risultati della psicoterapia. Da oltre un decennio integra il processo decisionale basato sui dati nei sistemi di consulenza universitaria attraverso la sua formazione post-laurea presso la Penn State University e il suo lavoro con il Center for Collegiate Mental Health (CCMH). Nel suo attuale ruolo presso il CAPS, supervisiona l'implementazione della tecnologia e la sicurezza dei dati, lavora a stretto contatto con il team IT dell'Università per pianificare e implementare i cambiamenti tecnologici e mantiene un forte legame con il CCMH, dove ora ricopre il ruolo di consulente di ricerca, assicurando che i servizi di salute mentale del CAPS rimangano efficaci e aggiornati. La sua passione per la tecnologia unisce un interesse professionale e personale.

 

Informazioni sul relatore:
Finanziarie: Henry Xiao lavora alla Pennsylvania State University. Riceve un compenso per le conferenze da PESI, Inc. Non ha nessun legame finanziario con organizzazioni non idonee.
Non finanziarie: Henry Xiao è un revisore ad hoc per Cogent Mental Health and Psychotherapy Research.

 

Obiettivi

1. Capire le questioni etiche e le cose da considerare sull'uso personale e professionale dell'IA.
2. Riassumi come funziona l'intelligenza artificiale e come viene usata adesso nel campo della salute mentale.
    

Schema

Perché questo discorso e cosa aspettarsi

• Avviso: chi parla non è un ingegnere o programmatore di IA, né è pagato/sponsorizzato da nessuna azienda di IA.
• Tutte le demo nella presentazione sono state fatte usando la versione gratis dei siti web citati.
• Chi sono i relatori che parlano (Pope sta anche studiando l'intelligenza artificiale, il che è importante a livello internazionale/globale)
• Domande su Zoom per vedere quanto il pubblico conosce l'IA; tipo 1-2 minuti ciascuna, i risultati saranno condivisi in diretta.
• Discussione su alcune convinzioni informate sull'IA che l'utente ha, basate su ricerche e approfondimenti professionali/personali (per dare un contesto alla chiacchierata)
• Obiettivi didattici 

Statistiche sull'uso: chi usa l'intelligenza artificiale e perché è importante?
Un'altra cosa sulle fonti: ogni volta che si usa uno strumento, si dice chi l'ha fatto e quando, e la bibliografia in generale ha un mix di ricerche empiriche e articoli/fonti più recenti.

  La maggior parte del mondo nei sondaggi ora usa settimanalmente

• L'uso effettivo potrebbe essere diverso a causa della natura in rapida evoluzione
• I giovani lo usano di più
• Esempio di come si usa ChatGPT e quanto velocemente si sta diffondendo
• Chi la sta usando: la geopolitica internazionale e l'importanza dell'IA

Introduzione all'IA: cos'è l'IA e come funziona?

• Introduzione e discussione sull'IA -> IA generativa -> Modelli linguistici di grandi dimensioni
• I modelli linguistici di grandi dimensioni sono diventati un tema centrale e un fenomeno pubblico.
• Come funzionano gli LLM? Si concentrano sulla previsione di schemi senza capire davvero cosa è vero e cosa è finzione.
• Analogia tra neonati e IA generativa: in generale, nessuno dei due "capisce" davvero perché fa quello che fa, ma reagisce comunque con precisione. 
• Esempi di LLM che si usano spesso; come riconoscere ChatGPT, Claude, Gemini, DeepSeek e Perplexity 

Etica e considerazioni: quali sono le preoccupazioni attuali sull'intelligenza artificiale in tutti i settori?

• DeepSeek, versione gennaio 2025: mostra il "filo logico" e svela la "scatola nera" in modo facile da capire.
• Deepseek TianAnMen Square: censura e potere delle aziende proprietarie di decidere l'allineamento con i valori/la sicurezza
• Il lancio di DeepSeek è un ottimo esempio di come si possano considerare diversi aspetti etici, come la geopolitica e l'economia, la censura e le misure di sicurezza, e l'uso da parte di un sacco di gente.
• Ordine del giorno per le categorie di considerazioni etiche: c'è molto da dire al riguardo, la speranza è quella di stimolare qualche riflessione su questi argomenti, anche se non c'è abbastanza tempo per approfondirli tutti.
  • GIGO e pregiudizi
    • I risultati di LLM/GenAI dipendono completamente dai dati su cui sono stati addestrati.
    • Esempio di impatto su chi non parla inglese ed esempio di orologi bloccati alle 10:10
• Privacy, responsabilità e sicurezza dei dati
  • Oltre al valore geopolitico, il furto di identità è un motivo davvero forte per non mettere dati sensibili in un LLM pubblico.
  • Le cartelle cliniche (dati di livello HIPAA) sono ancora particolarmente preziose.
  • I comitati etici si stanno espandendo per gestire l'uso responsabile dell'intelligenza artificiale, con l'American Psychological Association come esempio.
  • Organizzazioni internazionali (Conferenza delle Nazioni Unite)
  • Ipotesi della Regina Rossa: la tecnologia va avanti alla grande, quindi "stare fermi" non è proprio una buona idea.
• Costi ecologici ed energetici
  • Manutenzione elettrica, costi alti per formazione e inferenza
  • Parte del progresso sta anche nel ridurre i costi aumentando l'efficienza, ma c'è ancora una distribuzione ineguale dei costi.
  • Diritti umani ed etica - RLHF in Kenya
• Umanità: pensiero critico
  • Istruzione superiore e istruzione in generale - Impatto dei master in giurisprudenza (LLM)
  • Esempio di come un LLM può rispondere a una domanda in modo complesso
  • Gli LLM rendono la "conoscenza" più accessibile senza che serva per forza la "saggezza".
  • Studio di Microsoft sull'uso dell'LLM e il pensiero critico
  • Un piccolo esempio di come la tecnologia influisce sulla vita di tutti i giorni: panoramica sull'intelligenza artificiale di Google
• Umanità: connessione sociale
  • Esempio di una chiacchierata vocale con l'intelligenza artificiale
  • Analisi dei forum pubblici (tipo Reddit/Quora) e di come la gente usa i modelli di linguaggio grande (LLM) per avere compagnia.
  • Altro nella sezione Salute mentale
• Umanità: Creatività/Arte
  • Esempio musicale (se c'è tempo)
  • Video di esempio
  • Haiku; scritto di proprio pugno; ma ora impossibile da provare
  • Discussione su cosa sia l'arte vista come una qualità umana.
  • Riassunto dei risultati della ricerca sulle preferenze delle persone    
• Salute mentale
  • Usi attuali: nessun LLM gratuito offre la sicurezza HIPAA; dovresti pagare per avere una sicurezza adeguata.
  • Chatbot per la terapia: pro e contro, con studi e commenti aneddotici su Reddit
  • Uso parasociale, compresa la causa contro Character.AI e Google
  • Dati CCMH: aumento dell'ansia sociale, ansia e il ruolo dell'evitamento
  • Discussione sullo studio Monkey di Harlowe e su come l'intelligenza artificiale potrebbe essere la "scimmia di pezza" soggettiva per le persone in situazioni difficili.
  • Come possiamo continuare a parlare della tolleranza allo stress?

Esempi:

• Grandi categorie di utilizzo, come definite dallo studio Microsoft
• Esempio di uso personale, suggerimenti "quotidiani"
• Esempio di uso personale/professionale: come si usa un LLM?
• Esempio di uso professionale, creazione di un foglio di lavoro per un cliente
• Esempio: confronto linguistico tra ChatGPT e Claude; quanto è importante esplorare da soli e allineare i modelli
• Altri suggerimenti per esplorare l'IA

È ora delle domande
 

Pubblico di riferimento

• Consulenti per le dipendenze
• Case manager certificati
• Consulenti, educatori 
• Terapisti matrimoniali e familiari
• Infermieri
• Medici
• Psicologi
• Assistenti sociali
• Arteterapeuti