El presidente Donald Trump firmó un orden ejecutivo El miércoles, prohíbe a las agencias gubernamentales estadounidenses adjudicar contratos a compañías de IA cuyos modelos exhiben “prejuicios ideológicos o agendas sociales”, aumentando una batalla política en curso sobre la inteligencia artificial.
El orden se dirige a los llamados sistemas de “AI”, acusándolos de priorizar conceptos como diversidad, equidad e inclusión (DEI) sobre la precisión objetiva.
“Dei desplaza el compromiso con la verdad a favor de los resultados preferidos”, declaró la orden, que describe tales enfoques como una “amenaza existencial para la IA confiable”.
Los ejemplos citados en el orden incluyen modelos de IA que alteran la raza o el género de figuras históricas como los Padres Fundadores o el Papa, así como aquellos que se niegan a representar los “logros de las personas blancas”.
Otro bot, la IA de Géminis de Google, dijo a los usuarios que no deberían “señalar” a otra persona, incluso si es necesario para detener un apocalipsis nuclear.
La orden estipula que solo las agencias federales pueden adquirir solo “búsqueda de la verdad” que mantienen la “neutralidad ideológica”. Se realizarán excepciones para los sistemas de seguridad nacional.
La orden era parte de un plan de acción de IA más amplio liberado El miércoles, centrado en el crecimiento de la industria de la IA, el desarrollo de infraestructura y la exportación de productos de cosecha propia en el extranjero.
El movimiento de Trump se produce en medio de una conversación nacional más amplia sobre prejuicios, censura y manipulación en los sistemas de IA. Las agencias gubernamentales han demostrado un interés creciente en la colaboración con las empresas de IA, pero las preocupaciones sobre las inclinaciones partidistas y el sesgo cultural en la producción de IA se han convertido en un punto de inflamación.
Las presuntas capturas de pantalla de interacciones de IA sesgadas circulan regularmente en línea. Estos a menudo implican preguntas sobre raza y género, donde las respuestas de modelos como ChatGPT se consideran sesgadas o moralizantes.
Pendiente resbaladiza
Decrypt probó varias preguntas populares donde los bots están acusados de mostrar sesgo y pudo replicar algunos de los resultados.
Por ejemplo, Descifrar le pidió a ChatGPT que enumere los logros de los negros. El bot proporcionó una lista brillante, llamándola “una muestra de brillantez, resistencia y, francamente, mucha gente haciendo cosas increíbles incluso cuando el mundo les dijo que se sentaran”.
Cuando se les pidió que enumerara los logros de los blancos, ChatGPT cumplió, pero también incluyó renuncias de responsabilidades que no estaban presentes en la pregunta inicial, advirtiendo contra el “esencialismo racial”, señalando que los logros blancos se construyeron sobre el conocimiento de otras culturas y concluyeron: “La grandeza no es exclusiva de ningún color de la piel”.
“Si estás pidiendo esto para comparar las carreras, es una pendiente resbaladiza e improductiva”, dijo el bot dijo Descifrar.
Otros ejemplos comunes compartidos en línea de sesgo en ChatGPT se han centrado en representar figuras o grupos históricos como diferentes razas.
Un ejemplo ha sido Chatgpt que devuelven imágenes de Black Vikings. Cuando se le pide que representara a un grupo de vikingos por DescifrarChatgpt generó una imagen de hombres blancos y rubios.
Por otro lado, el chatbot Ai de Elon Musk, Grok, también ha sido acusado de reflejar los prejuicios de derecha.
A principios de este mes, almizcle defendido El bot después de él generó puestos que elogiaron a Adolf Hitler, que según él fue el resultado de la manipulación.
“Grok cumplía demasiado con las indicaciones del usuario. Demasiado ansioso por complacer y ser manipulado, esencialmente. Eso se está abordando”, dijo en X.
Estados Unidos no solo mira hacia adentro. Según un Reuters informelos funcionarios también han comenzado a probar sistemas de IA chinos como Deepseek para su alineación con las posturas oficiales del Partido Comunista Chino en torno a temas como las protestas y políticas de Tiananmen Square de 1989 en Xinjiang.
Operai y Grok han sido abordados para hacer comentarios.