La carta explica cómo los sistemas de Inteligencia Artificial (IA) con inteligencia humana-competitiva pueden representar un riesgo significativo para la sociedad y la humanidad en general. Se hace referencia a una amplia investigación y al reconocimiento de los principales laboratorios de IA sobre este tema. Se establece que la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y que, por lo tanto, debe planificarse y administrarse con cuidado y recursos adecuados.
Se señala que los sistemas de IA contemporáneos se están volviendo cada vez más competitivos con los humanos en tareas generales, lo que plantea preguntas importantes sobre cómo deberíamos lidiar con esta situación. Se pregunta si deberíamos permitir que las máquinas propaguen la propaganda y la falsedad, o automatizar todos los trabajos, incluidos los de cumplimiento. También se pregunta si deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes y reemplazarnos.
Se establece que las decisiones importantes no deben dejarse en manos de líderes tecnológicos no elegidos y que los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables.
La carta hace un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos seis meses el entrenamiento de los sistemas de IA más potentes, y se establece que los gobiernos deberían intervenir e instituir una moratoria si tal pausa no puede promulgarse rápidamente. Se sugiere que los desarrolladores de IA trabajen con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA y se enumeran una serie de medidas que deberían incluirse.
La carta concluye señalando que la humanidad puede disfrutar de un futuro floreciente con la IA, pero que es necesario planificar y administrar cuidadosamente el desarrollo de estos sistemas para garantizar que sean seguros y beneficiosos para todos. Se sugiere que disfrutemos de un «verano de IA» en el que cosechemos las recompensas de estos sistemas, pero sin apresurarnos a caer sin estar preparados.
Acá la carta completa:
