El Instituto Nacional de Estándares y Tecnología (NIST) ha emitido nuevas instrucciones a los científicos que se asocian con el Instituto de Seguridad de Inteligencia Synthetic de los Estados Unidos (AISI) que eliminan la mención de “seguridad de la IA”, “AI responsable” y “AI de equidad” en las habilidades que espera de los miembros e introduce una solicitud para priorizar la “reducción de la bias ideológica, para permitir el florecimiento humano y la competencia económica”. “”.
La información se produce como parte de un acuerdo de investigación y desarrollo cooperativo actualizado para los miembros del Consorcio del Instituto de Seguridad de AI, enviado a principios de marzo. Anteriormente, ese acuerdo alentó a los investigadores a contribuir con el trabajo técnico que podría ayudar a identificar y fijar el comportamiento del modelo discriminatorio relacionado con la desigualdad de género, raza, edad o riqueza. Tales sesgos son muy importantes porque pueden afectar directamente a los usuarios finales y dañar desproporcionadamente a las minorías y a los grupos económicamente desfavorecidos.
El nuevo acuerdo elimina la mención del desarrollo de herramientas “para autenticar el contenido y el seguimiento de su procedencia”, así como “etiquetar el contenido sintético”, lo que indica menos interés en el seguimiento de la información errónea y las falsificaciones profundas. También agrega énfasis en poner a Estados Unidos primero, pedirle a un grupo de trabajo que desarrolle herramientas de prueba “para ampliar la posición international de IA de Estados Unidos”.
“La administración Trump ha eliminado la seguridad, la equidad, la información errónea y la responsabilidad como las cosas que valora para la IA, que creo que habla por sí misma”, cube un investigador de una organización que trabaja con el Instituto de Seguridad de AI, que pidió no ser nombrado por temor a represalias.
El investigador cree que ignorar estos problemas podría dañar a los usuarios regulares al permitir que los algoritmos que discriminen en función de los ingresos u otros datos demográficos no se controlen. “A menos que sea un multimillonario tecnológico, esto llevará a un futuro peor para usted y las personas que le importan. Espere que la IA sea injusta, discriminatoria, insegura y se despliegue de manera irresponsable ”, afirma el investigador.
“Es salvaje”, cube otro investigador que ha trabajado con el Instituto de Seguridad de AI en el pasado. “¿Qué significa incluso que los humanos florezcan?”
Elon Musk, quien actualmente lidera un esfuerzo controvertido para reducir el gasto y la burocracia del gobierno en nombre del presidente Trump, ha criticado modelos de IA construidos por OpenAI y Google. En febrero pasado, publicó un meme en X en el que Géminis y Openai fueron etiquetados como “racistas” y “Woke”. El a menudo cita Un incidente en el que uno de los modelos de Google debatió si sería un error a alguien, incluso si evitaría un apocalipsis nuclear, un escenario muy poco possible. Además de Tesla y SpaceX, Musk dirige Xai, una compañía de IA que compite directamente con OpenAI y Google. Un investigador que asesora a Xai desarrolló recientemente una técnica novedosa para alterar las inclinaciones políticas de los modelos de idiomas grandes, según lo informado por Wired.
Un creciente cuerpo de investigación muestra que el sesgo político en los modelos de IA puede afectar ambos liberales y conservadores. Por ejemplo, Un estudio del algoritmo de recomendación de Twitter Publicado en 2021 mostró que los usuarios tenían más probabilidades de mostrarse perspectivas directas en la plataforma.
Desde enero, el llamado Departamento de Eficiencia del Gobierno (DOGE) de Musk ha ampliado el gobierno de los Estados Unidos, despidiendo efectivamente a los funcionarios públicos, deteniendo el gasto y creando un entorno que se cree que es hostil para aquellos que podrían oponerse a los objetivos de la administración Trump. Algunos departamentos gubernamentales, como el Departamento de Educación, han archivado y eliminado documentos que mencionan DEI. Doge también ha atacado a NIST, la organización matriz de AISI, en las últimas semanas. Docenas de empleados han sido despedidos.
