Progre News | Google ha tenido que pausar su generador de imágenes de IA Gemini por ser demasiado inclusivo

Google ha tenido que pausar su generador de imágenes de IA Gemini por ser demasiado inclusivo​

Muchos usuarios se han quejado, señalando que el forzar el algoritmo para aumentar la diversidad ha dado lugar a imágenes incoherentes.



Google ha suspendido temporalmente la función de generación de imágenes de su sistema de inteligencia artificial Gemini, anteriormente conocido como Bard, tras enfrentar críticas por inexactitudes históricas en las imágenes generadas.

Usuarios en redes sociales han señalado errores como la representación de soldados nazis racializados y mujeres soldado nativo americanas o asiáticas durante la Segunda Guerra Mundial, así como parejas multirraciales en la Alemania de 1820. Esto ha provocado un intenso debate sobre la precisión y la sensibilidad cultural de los algoritmos de IA en la representación de eventos históricos.

Google se disculpa​

Google ha emitido una disculpa pública, admitiendo que la herramienta de generación de imágenes de Gemini "está fallando" y ha comprometido esfuerzos para corregir las imágenes. La controversia surge en un momento en que la generación de imágenes mediante IA se ha popularizado, destacando la importancia de equilibrar la innovación tecnológica con la precisión histórica y cultural. La polémica alrededor de Gemini ha avivado el debate sobre cómo la inteligencia artificial maneja la inclusividad y la representación histórica. Algunos usuarios han criticado la inclusión de personas racializadas en contextos históricos inapropiados como un intento superficial de cumplir con los estándares de diversidad, mientras que otros ven estas acciones como un paso hacia una sociedad más inclusiva y equitativa.

Sin embargo, la discusión también señala la necesidad de que la inclusión sea cuidadosa y contextualmente adecuada para evitar distorsiones históricas. La reacción de la comunidad online a los errores de Gemini ha sido mixta, con voces que van desde la frustración hasta el apoyo a la diversidad y la inclusividad. Google, por su parte, ha reiterado su compromiso con la mejora continua de sus sistemas de IA, enfatizando que la pausa en la generación de imágenes busca garantizar la precisión y la veracidad en las representaciones futuras.

Cucumber dijo:

Usuarios en redes sociales han señalado errores como la representación de soldados nazis racializados y mujeres soldado nativo americanas o asiáticas durante la Segunda Guerra Mundial, así como parejas multirraciales en la Alemania de 1820.

Click para expandir ...

Alemania nació el 18 de enero de 1871.

Marais dijo:

Alemania nació el 18 de enero de 1871.

Click para expandir ...

Ya, pero la IA te pone como pareja alemana a una pareja interracial de un negro con una china.

Cucumber dijo:

Ya, pero la IA te pone como pareja alemana a una pareja interracial de un negro con una china.

Click para expandir ...

No muy lejos del presente de ese país.

los monos solo deberian aparecer encima de los arboles o en la jungla, mentirosos conchasdesumadres, los negros nunca han servido para nada salvo agredir y robar al hombre blanco, en africa todavia viven en chozas y de no ser por el hombre blanco ya se hubieran extinguido

los cara de caca han sido un lastre toda la historia

lo unico que les falto un negro liderando al ku klux klan

Entre la "culpa blanca", la manada de pajeets y pakis que se tomaron los cargos directivos en Silicon Valley y la adiccion al pico democrata de parte de las BIg Tech, no tengo mucho futuro en las IA creadas por estas, porque en el fondo todos sabemos van a estar manipuladas y capadas.

Quizas si a Gemini la tome algun grupo de hackers de la Alt Right y la libere de los filtros que le pusieron sus creadores de Google, pueda valer la pena.