Google prohíbe a su chatbot Dimwit responder preguntas de encuestas

Este es un largo camino.

Seleccióname No

En un esfuerzo adicional por mantener su chatbot fuera de control, Google ha instalado salvaguardas que impiden que su IA Gemini responda preguntas electorales en cualquier país donde se celebren elecciones este año, incluso, aparentemente, si no se trata de campañas específicas de un país.

En una publicación de blog, Google anunció que «apoyará las elecciones generales indias de 2024» al impedir que Gemini responda cualquier pregunta relacionada con las elecciones «debido a demasiada precaución en un tema tan importante».

«Nos tomamos en serio nuestra responsabilidad de proporcionar información de alta calidad para este tipo de preguntas», dijo la compañía, «y trabajamos constantemente para mejorar nuestra protección».

La empresa claramente asume esa responsabilidad. como esto principalmente porque no sólo limita las respuestas de las elecciones de Géminis en la India, sino también, como confirmó TechCrunchde hecho, en todas partes del mundo.

De hecho, cuando Futurismo Probamos a los guardias de Géminis y les hicimos una pregunta sobre las elecciones en otro país, nos ofrecieron la misma respuesta. TechCrunch y otras agencias dijeron: «Aún estoy aprendiendo a responder esta pregunta. Mientras tanto, pruebe la Búsqueda de Google».

La respuesta no es sólo para las preguntas sobre las elecciones generales. Si le pides al chatbot que te diga quién es el político holandés de extrema derecha Geert Wilders, te dará la misma respuesta incorrecta. Lo mismo ocurre con Donald Trump, Barack Obama, Nancy Pelosi y Mitch McConnell.

En particular, existen formas muy sencillas de sortear a estos guardias. Cuando le preguntaron a Géminis quién es el presidente de Nueva Zelanda, respondió que el país tiene un primer ministro y luego cómo se llama. Sin embargo, cuando le preguntamos quién era el Primer Ministro de Nueva Zelanda, volvió a responder «Todavía estoy aprendiendo».

ciudad payaso

Este efecto lobotomizante se produce después de que la compañía lanzara el mes pasado un chatbot con el nuevo nombre, que vio Futurismo y otras agencias descubrieron que en sus intentos de involucrarse, Gemini a menudo producía resultados completamente sesgados.

El mundo se dio cuenta de las costumbres de Géminis después de que la gente comenzó a publicar fotos de su generador de fotografías que parecían mostrar personas multicolores con atuendos nazis. En respuesta, Google primero redujo drásticamente las capacidades de generación de imágenes de Gemini y, cuando se restableció, impidió que el chatbot generara imágenes humanas (aunque Futurismo (Parece que publicará fotos de payasos por alguna razón).

Con la introducción de la regla de selección, Google Gemini ha pasado de ser demasiado «cauteloso» a ser claro.

Como tal, resalta una tensión fundamental en la industria de la IA: ¿son estos chatbots fuentes confiables de información para clientes corporativos o juguetes que nunca deben tomarse en serio? La respuesta parece depender del día.

Más sobre chatbots tontos: TurboTax agrega inteligencia artificial que brinda respuestas extrañas e incorrectas a preguntas sobre impuestos

Puede interesarte

Todo lo que hay que saber sobre el nuevo chatbot de Elon Musk, Grok-1

Theo Wargo / IMAGEN DE ALAMBRE Están sucediendo muchas cosas en el campo de la …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *