Pichai reacciona a los errores de la IA de Gemini
Sundar Pichai, director ejecutivo de Google, envió un memorando interno al personal, enfatizando que Los errores de Gemini son “completamente inaceptables” después de que la aplicación de inteligencia artificial (IA) envolviera a la empresa en una controversia.
En los últimos días, el gigante tecnológico suspendió su función de imágenes en Gemini después de que generó resultados ofensivos e históricamente inexactos.
En algunos casos, la tecnología representaba a los padres fundadores de los Estados Unidos que no eran soldados alemanes blancos y mestizos de la era nazi, así como representaciones inexactas de los cofundadores de Google. La renuencia del chatbot a decir si los memes de Elon Musk tuiteando son peores que Adolf Hitler matando a millones habría sido particularmente preocupante.
1/ Google ha detenido su generador de imágenes Gemini AI debido a imprecisiones históricas y raciales.
La IA “no dio en el blanco”, según un comunicado de la compañía, después de que los usuarios se presentaran citando resultados como que los soldados alemanes de la era nazi eran representados como personas de color.
Entremos en ello. pic.twitter.com/X4Knqt7OZm
—Cerveza de la mañana ☕️ (@MorningBrew) 23 de febrero de 2024
Pichai subió al estrado para presentar una postura dura, dada la gravedad del incidente, alzando la mano sobre los resultados de la tecnología de IA.
No hubo intransigencia ni desviación en el incidente, al contrario, El ejecutivo de 51 años prometió llegar al fondo de los problemas con Géminis.después de desplegar especialistas para centrar su atención en el Modelo de Lenguaje Grande (LLM).
“Sé que algunas de sus respuestas ofendieron a nuestros usuarios y mostraron parcialidad; para ser claros, esto es completamente inaceptable y estábamos equivocados.“, dijo Pichai. “Nuestros equipos han estado trabajando las 24 horas del día para resolver estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones.“, él continuó.
Google ha sido blanco de numerosas críticas, incluidas acusaciones de parcialidad contra los blancos.
¿Cómo está respondiendo Google a la controversia Géminis?
La IA se construye con barreras e indicaciones destinadas a mitigar el abuso y el sesgo, pero este ejemplo oportuno muestra los peligros de una tecnología que emerge rápidamente y por qué es tan importante implementar barreras efectivas para garantizar la confianza y la autoridad.
Anteriormente, OpenAI fue criticado por mostrar imágenes de personas blancas en puestos profesionales, mientras que personas negras aparecían en roles típicamente serviles.
Pichai dijo que Google trabajaría para arreglar la generación de imágenes de Gemini en las próximas semanas, sin especificar cuánto tiempo dedicaría a este problema en evolución.
Declaró que la empresa “trabajó incansablemente” en este temaal tiempo que destaca “que ninguna Al es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y continuaremos trabajando mientras sea necesario.“.