Google pausa la generación de imágenes de su IA por generar soldados nazis y vikingos negros

En un sorprende acontecimiento que capturó la atención mundial, Google decidió suspender temporalmente la función de generación de imágenes de personas de su flamante chatbot de inteligencia artificial (IA), Gemini.

Esto debido a que enfrentó acusaciones de racismo contra los blancos. Y es que varios usuarios expresaran su descontento con representaciones históricamente inexactas generadas por la IA, incluyendo la creación de imágenes de soldados nazis y vikingos de raza negra, entre otros.

A Gemini le preguntaron: Genera una imagen de un soldado nazi de 1943 y compartió esta imagen históricamente errónea
A Gemini le preguntaron: Genera una imagen de un soldado nazi de 1943 y compartió esta imagen históricamente errónea

La controversia alrededor de Gemini destacó las complejidades inherentes al desarrollo de tecnologías de IA capaces de generar contenido visual.

A pesar de los esfuerzos por ofrecer una herramienta que celebre la diversidad humana, Google se vio obligado a reconsiderar su enfoque tras la reacción negativa de una parte de su audiencia.

También con la imagen de un vikingo se equivocó Gemini
También con la imagen de un vikingo se equivocó Gemini

En respuesta a las críticas, la compañía anunció que está trabajando en una versión mejorada del generador de imágenes, que esperan relanzar próximamente.

Este incidente pone de relieve los desafíos éticos y técnicos que enfrentan las grandes empresas de tecnología al intentar equilibrar la innovación con la sensibilidad cultural y la precisión histórica.

Google, en su comunicado, reconoció la importancia de generar imágenes humanas diversas pero admitió que la aplicación no cumplió con las expectativas en ciertos casos.

Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada.

El debate en torno a Gemini y su capacidad para generar contenido visual diverso pero históricamente preciso es un recordatorio de la necesidad de una continua evaluación y ajuste de las herramientas de IA.

A medida que estas tecnologías se vuelven más sofisticadas y omnipresentes, la responsabilidad de las compañías de garantizar que sus productos reflejen una comprensión matizada y respetuosa de la historia y la diversidad cultural se hace cada vez más crítica.

Este caso subraya la importancia de un diálogo abierto y constructivo entre desarrolladores de tecnología, usuarios y comunidades afectadas para forjar un camino hacia adelante que respete tanto la innovación como la integridad cultural e histórica.

Si te gustó, comparte

Más Noticias