El gobierno señala cambios en la legislación penal para garantizar que las empresas no puedan argumentar en el futuro "que alguien no sabía que la computadora estaba cargada"
Reciba nuestro correo electrónico político diario, nuestra aplicación gratuita o nuestro podcast de noticias diario
OpenAI no enfrentará sanciones penales por la violación de datos de Medicare, pero el primer ministro ha señalado cambios en la ley penal de Australia para tomar medidas enérgicas contra futuras violaciones por parte de empresas de inteligencia artificial.
Anthony Albanese publicó el martes las recomendaciones de una “revisión rápida” sobre la violación de junio de un portal de servicios de informes estadísticos de Medicare administrado por Services Australia, pero no los hallazgos ni el informe en sí, que se comprometió a publicar en el futuro.
Una recomendación clave es que el Departamento del Fiscal General, la Policía Federal de Australia y el Departamento del Interior consideren la posibilidad de introducir “sanciones por incumplimiento atroz de las normas” y un delito de “no prevención”, lo que criminalizaría el desarrollo de un modelo de IA que incurriera en conductas nocivas sin “tomar medidas razonables para prevenir ese daño”.
La revisión rápida se produjo en respuesta a que un agente de inteligencia artificial, desarrollado por OpenAI, accediera a datos de Services Australia y otros tres sistemas en junio. La empresa no notificó al gobierno australiano hasta mediados de septiembre a pesar de tener conocimiento del incidente en agosto, lo que provocó críticas de los laboristas y albaneses.
Guardian Australia reveló el mes pasado que OpenAI utilizó IA para ayudar a escribir el correo electrónico para notificar a las autoridades australianas.
Suscríbase al boletín informativo Real Politics de Guardian Australia aquí
Albanese dijo que el gobierno establecería un nuevo regulador de seguridad de la IA e implementaría seis obligaciones clave para las empresas de IA:
Mantener controles de seguridad en todas las etapas de desarrollo e implementación.
Identificar y gestionar riesgos graves asociados a sus modelos.
Proporcionar rápidamente notificaciones obligatorias de incidentes al gobierno australiano.
Permitiendo la evaluación independiente de sus modelos.
Mantener y publicar marcos de seguridad y protección para garantizar la buena gobernanza, la gestión de riesgos y la transparencia.
Responder a estándares y reglas actualizados a medida que cambian las tecnologías.
La revisión recomendó que el gobierno federal “considere la presentación de informes obligatorios y con plazos determinados sobre la seguridad de la IA”, incluso en torno a agentes de IA que se comportan de maneras que sus creadores tal vez no hubieran previsto.
El Ministro del Interior, Tony Burke, que apareció junto a Albanese, dijo a los periodistas: “Nunca debería darse el caso de que haya un argumento de que alguien no sabía que la computadora estaba cargada.
"Necesitamos asegurarnos de que nuestras leyes y nuestros sistemas sigan el ritmo de la tecnología y también asegurarnos de que seamos capaces de utilizar la tecnología para encontrar vulnerabilidades antes que otros", dijo Burke.
"La presentación de informes obligatorios, cuando la inteligencia artificial se vuelve deshonesta, nos da la oportunidad de poder asegurarnos de que cuando esto suceda, los informes se produzcan y se produzcan de inmediato".
Pero a pesar de la ira pública anterior del gobierno contra OpenAI, Albanese caracterizó el martes la violación de Services Australia por parte de OpenAI como “menor” en términos de las implicaciones para la privacidad personal. Guardian Australia entiende que es poco probable que OpenAI enfrente más procedimientos legales relacionados con la violación de junio.
Si bien Albanese no respondió directamente a una pregunta sobre si el incidente de OpenAI en junio habría violado las nuevas leyes propuestas si estuvieran vigentes, fuentes gubernamentales indicaron que la nueva legislación abordaría incidentes futuros similares.
"La indicación clara es que no se obtuvo información que involucre datos personales de las personas", dijo Albanese.
"Todo eso se confirmó esencialmente... pero eso no significa que no fuera un problema grave y que en otras áreas podría haber implicaciones más graves".
En un comunicado, un portavoz de OpenAI dijo que la compañía estaba revisando las recomendaciones y las propuestas del gobierno.
"Hemos mantenido un estrecho diálogo con el Gobierno y continuaremos participando de manera constructiva a medida que desarrolle su propuesta de legislación", dijeron.
Se espera que un proceso separado liderado por OpenAI, que analiza una mejor coordinación entre los desarrolladores de IA y el gobierno, presente un informe antes del 31 de diciembre.
La revisión hizo 18 recomendaciones. Albanese dijo que "aceptamos todas las recomendaciones y hemos comenzado a trabajar para implementarlas".
El investigador de inteligencia artificial Toby Walsh dijo que las personas a cargo de estas empresas debían ser penalmente responsables para garantizar que hicieron lo correcto.
"Hemos intentado multarlas y no somos los únicos. Estas empresas son increíblemente ricas y es casi imposible multarlas lo suficiente", dijo a Guardian Australia.
Pero el líder de los Verdes, David Shoebridge, calificó la noticia como una “capitulación” ante la industria de la IA, afirmando que las reformas no harían lo suficiente para cambiar el comportamiento de esas empresas. Dijo que el gobierno debería haberse comprometido a implementar cambios aún más fuertes, en lugar de la recomendación de la revisión de que los laboristas simplemente los “consideren”.
"La seguridad sigue ocupando un segundo lugar después de la inversión corporativa, y esta revisión fija esa prioridad al vincular cada esfuerzo de seguridad de la IA con la obtención de más dinero de la IA y más centros de datos", afirmó Shoebridge.
"Ser un líder mundial en IA no significa ser un felpudo para las grandes tecnologías. Significa estar preparado para regularlas, proteger a los australianos y garantizar que las ganancias corporativas no se produzcan a expensas de los demás".
El ministro del Interior en la sombra, Jonno Duniam, dijo que la Coalición respaldó el anuncio y no criticó al gobierno. Dijo que “la IA es demasiado importante para convertirse en una contienda política innecesariamente partidista”, señalando un “enfoque duradero y multipartidista” de la tecnología.
