Matteo G.P. Flora
“L’IA ci u*ciderà?” 👉 https://www.youtube.com/watch?v=7_cipJugk4s La domanda è tornata virale dopo le dimissioni (e i post) di un ricercatore di Anthropic, con stime di rischio catastrofico che oscillano enormemente tra addetti ai lavori. Ma con quali meccanismi concreti un sistema avanzato può trasformare incentivi, potere e infrastrutture in un rischio reale? I finali possibili sono tre. Il primo è l’IA che ci elimina direttamente, non con robot alla Terminator ma con scorciatoie plausibili come biologia, automazione e replicazione, sabotaggio e coercizione. Il secondo siamo noi che ci eliminiamo da soli, usando l’IA come moltiplicatore di capacità per progettare armi o destabilizzare la politica con disinformazione e ricatti. Il terzo è il “whimper”. Non un’apocalisse improvvisa ma la graduale irrilevanza dell’umano, per sostituzione economica e delega cognitiva. Ma a questo punto possiamo ancora “staccare la spina”? Ne parliamo oggi in un lungo video su Ciao Internet #AIAlignment #Anthropic #NickBostrom #techpolicy #AI