El gobernador Gavin Newsom vetó el domingo la SB 1047, un proyecto de ley de seguridad de la IA que habría requerido que los desarrolladores de modelos avanzados de IA crearan protocolos destinados a prevenir desastres.
Un proyecto de ley presentado por el senador Scott Wiener (D-San Francisco) requeriría que los desarrolladores presenten planes de seguridad a los fiscales generales estatales, lo que podría responsabilizarlos si los modelos de IA que controlan directamente dañan o representan un riesgo. seguridad pública.
La legislación también exige que las empresas de tecnología cierren los modelos de IA que controlan directamente si algo sale mal.
En su mensaje de veto, Newsom dijo que la legislación podría dar al público “una falsa sensación de seguridad sobre la gestión de esta tecnología de rápido movimiento” porque sólo apunta a modelos de inteligencia artificial costosos y a gran escala y no a sistemas especializados más pequeños.
“Aunque tiene buenas intenciones, la SB 1047 no aborda el despliegue de sistemas de inteligencia artificial en entornos de alto riesgo, que implican la toma de decisiones críticas o el acceso a información sensible”, decía el mensaje de veto de Newsom. En cambio, el proyecto de ley aplica estándares más estrictos incluso a las funciones más básicas, si las utiliza un sistema grande. No creo que esta sea la mejor manera de proteger al público de las amenazas reales que plantea la tecnología”.
El domingo, el gobernador también anunció que su administración ha involucrado a líderes de la industria para ayudar al estado a construir defensas para el uso de inteligencia artificial, enfocándose en analizar sus oportunidades y riesgos. Newsom prometió seguir trabajando con la Legislatura sobre el tema en la próxima sesión.
El proyecto de ley ha sido debatido acaloradamente en Silicon Valley, con el apoyo del Centro para la Seguridad de la Inteligencia Artificial, el director ejecutivo de SpaceX, Elon Musk, el consejo editorial del LA Times y destacados investigadores de inteligencia artificial, pero la empresa matriz de Facebook, Meta, que desarrolló el desarrollador de ChatGPT, OpenAI, y varios miembros demócratas. del Congreso se opuso. incluida Nancy Pelosi (D-San Francisco).
Los defensores dicen que es importante poner barreras a la tecnología de inteligencia artificial de rápido crecimiento para evitar futuros daños catastróficos, mientras que los opositores dicen que tales medidas podrían sofocar la innovación.
Si bien el proyecto de ley podría superar el veto del gobernador con dos tercios de los votos de ambas cámaras, eso sería un obstáculo enorme e inusual.
Newsom añadió que la SB 1047 ha generado un discurso público masivo y “creó su propio sistema meteorológico” durante una charla informal en la conferencia tecnológica Dreamforce en San Francisco a principios de este mes.
También habló sobre los desafíos de regular la inteligencia artificial.
“Hemos estado trabajando durante los últimos años para tener una regulación prudente que respalde el riesgo, pero no la imprudencia”, dijo Newsom.
Tanto los partidarios como los opositores de la SB 1047 aunaron recursos para presentar sus argumentos. Más de 125 actores, productores, directores, artistas musicales y otros líderes de la industria del entretenimiento, incluidos destacados demócratas, firmaron una carta instando a Newsom a firmar el proyecto de ley. Entre los que firmaron la carta se encontraban los actores Pedro Pascal y Alec Baldwin, así como la productora ejecutiva de “Bridgerton” Shonda Rhimes.
“Queremos seguir creyendo que usted es un líder que luchará por el bien de todos, no sólo de unos pocos gigantes de Silicon Valley”, decía la carta.
Al mismo tiempo, la Cámara de Desarrollo se opuso al proyecto de ley. Una canción de rock creada por AI con palabras que incluyen “vetar las cadenas que nos atan”.
“Es uno de esos raros proyectos de ley que llegan a su escritorio y que dependen de cuán persuasiva sea la última persona en la llamada”, dijo Newsom en una entrevista con el Times a principios de este mes. “Esto dividió a mucha gente”.
