Nueva York impulsa regulación integral y ética para el uso responsable de IA

El estado de Nueva York está tomando un enfoque proactivo y multifacético para regular y fomentar el uso responsable de la inteligencia artificial (IA) en diversas áreas, abarcando desde la seguridad jurídica sobre contenidos manipulados digitalmente hasta la promoción de un ecosistema de innovación inclusivo y de interés público. Estas iniciativas conjuntas, impulsadas por la gobernadora Kathy Hochul, buscan mitigar los riesgos asociados a la proliferación de tecnologías de IA al tiempo que potencian la investigación y el desarrollo sostenible en el estado.

Legislación pionera contra la desinformación y fraudes con IA

En el presupuesto estatal para el año fiscal 2025, se presentó una propuesta de ley que establece como delito menor el uso no autorizado de la voz de una persona mediante tecnologías de IA. Esta legislación actualiza y amplía el marco penal para incluir múltiples formas de delitos relacionados con materiales digitales falsificados o manipulados, conocidos comúnmente como deepfakes.

Entre las prácticas ilícitas tipificadas se encuentran:

• El uso no autorizado de la voz de una persona, especialmente en actividades publicitarias.
• La difusión ilegal de imágenes íntimas, ampliando la prohibición a imágenes digitales y no solo a las fotografías tradicionales.
• La publicación o difusión ilícita de audios auténticos o digitalizados con contenido sexual.
• La difusión o publicación ilícita de registros fotográficos, videográficos o de audio fabricados mediante IA.

Además de las tipificaciones penales, la ley introduce un mecanismo de derecho de acción privada que permite a las víctimas perseguir legalmente la publicación de material falso alterado digitalmente.

La gobernadora Hochul declaró que estas medidas representan “protecciones únicas a nivel nacional” para garantizar un despliegue seguro y responsable de la IA en el estado.

Contexto y casos representativos

El rápido avance de la IA generativa ha permitido a delincuentes sofisticados clonar voces y crear videos falsos con un grado alarmante de realismo, aplicando estas técnicas para cometer fraudes y difundir desinformación. Por ejemplo, se han reportado casos en Nueva York donde estafadores imitan la voz de familiares o agentes de servicio al cliente para robar dinero o información sensible. Entre las víctimas se encuentran decenas de personas mayores que han sufrido pérdidas económicas por estas estafas.

En un año electoral, el potencial de manipulación se vuelve especialmente crítico. En enero pasado, una grabación deepfake de 10 segundos se viralizó en redes sociales, atribuyendo a Keith Wright, ex asambleísta estatal y jefe del Partido Demócrata de Manhattan, declaraciones ofensivas hacia la asambleísta Inez Dickens. Este audio fue completamente fabricado y evidenció cómo la IA puede influir en la opinión pública mediante la creación de contenidos falsos convincentes.

Actualización penal sobre delitos relacionados con IA

La legislación propuesta también clarifica y refuerza la tipificación de distintos delitos cuando involucran el uso de IA, alineándose con la necesidad de regular las nuevas tecnologías con precisión jurídica:

• Coacción a través de IA: se considerará un delito de tercer grado.
• Suplantación de identidad digital: se tipificará en primer y segundo grado, dependiendo de la gravedad.
• Hurto de identidad: será reconocido como delito conforme a los estándares establecidos.
• Promoción y posesión de material sexual infantil: se clasifica como una actividad criminal grave.

Estos cambios representan una modernización relevante, adaptando el marco legal para enfrentar específicamente las problemáticas que surgen del uso ilícito de IA en la comisión de delitos.

Monitoreo y regulación en el uso gubernamental de IA

Además de la regulación enfocada en protección frente a delitos, Nueva York ha promulgado una ley que obliga a las agencias estatales a revisar y reportar el uso de software basado en IA, incluyendo algoritmos, modelos computacionales o técnicas relacionadas. Esta medida busca la máxima transparencia y responsabilidad en el uso de estas tecnologías en la administración pública.

Los informes deben ser enviados al gobernador, líderes legislativos y estar disponibles públicamente en línea, asegurando el acceso ciudadano y la supervisión constante.

Asimismo, la legislación establece restricciones específicas, como la prohibición del uso de IA para decisiones automatizadas en beneficios de desempleo o asistencia para el cuidado infantil, salvo que existan mecanismos de monitoreo humano permanente. También protege a los empleados estatales contra la reducción injustificada de horas o responsabilidades debido a la implementación de IA.

La senadora estatal Kristen Gonzalez destacó esta ley como un paso decisivo para establecer pautas claras en el uso emergente y cada vez más extendido de la inteligencia artificial dentro del gobierno.

Fomento de la investigación e innovación responsable: Empire AI

Para cerrar la brecha creciente en el acceso a recursos computacionales avanzados y democratizar el desarrollo de la IA, la gobernadora Hochul ha puesto en marcha la iniciativa Empire AI, un consorcio que agrupa siete instituciones académicas líderes del estado:

• Universidad de Columbia
• Universidad de Cornell
• Universidad de Nueva York (NYU)
• Instituto Politécnico Rensselaer
• Universidad Estatal de Nueva York (SUNY)
• Universidad de la Ciudad de Nueva York (CUNY)
• Fundación Simons

El consorcio recibirá una inversión pública y privada que supera los 400 millones de dólares, con hasta 275 millones provenientes del Estado y más de 125 millones de las instituciones fundadoras y socios privados. Esta inversión permitirá crear un centro de computación de última generación en Buffalo y promoverá la colaboración innovadora entre las instituciones para acelerar el desarrollo de IA centrada en el bien público.

Empire AI tiene como objetivo no solo potenciar la investigación avanzada y la creación de empleo, sino también fortalecer la seguridad nacional y ampliar las oportunidades educativas, además de incentivar la creación de startups tecnológicas responsables. Esta apuesta estratégica también busca contrarrestar la concentración del poder privado en recursos computacionales, facilitando el acceso a investigadores, organizaciones de interés público y pequeñas empresas.

Componentes clave de la política integral de IA en Nueva York

• Protección contra fraudes y desinformación digital: legislación específica para tipificar y sancionar usos no autorizados de la voz y la imagen mediante IA.
• Regulación del uso gubernamental de IA: transparencia obligatoria y limitación en decisiones automáticas sin supervisión humana.
• Inversión en infraestructura y colaboración académica: creación de Empire AI para democratizar el acceso y promover la innovación responsable.
• Medidas electorales para evitar manipulación: exigencia de aclaratoria clara en contenidos digitales políticos o electorales distribuidos en los 60 días previos a elecciones.

Estas iniciativas conforman un enfoque integral donde la regulación, la supervisión y el impulso a la innovación ética se combinan para enfrentar los desafíos que plantea la IA avanzada. Al mismo tiempo, apuntan a consolidar a Nueva York como un referente nacional en gobernanza tecnológica y desarrollo responsable.