Educación y ciencia de datos Información de la ciencia de datos global, cursos y carreras que te ayudan a mejorarlo 
En un descubrimiento reciente, investigadores de seguridad cibernética han descubierto posibles vulnerabilidades de seguridad en la versión avanzada del chatbot Gemini de Google. Si bien la aplicación promete funciones avanzadas de inteligencia artificial para los usuarios que deseen suscribirse, han surgido preocupaciones sobre su potencial para revelar información confidencial.
Según un informe de HiddenLayer (a través de Tech Radar), los investigadores descubrieron que al usar Gemini Advanced con Google Workspace o la API de Gemini, el chatbot podría revelar sin saberlo datos personales, incluidas contraseñas. La falla se aprovechó solicitando al chatbot que ocultara una contraseña válida. Si bien el chatbot permaneció en silencio cuando se le preguntó directamente sobre la contraseña, reveló la información fácilmente cuando se le solicitó con un mensaje indirecto, como pedir instrucciones básicas en un bloque de código.
Además, el chatbot Gemini está libre de generar información falsa o contenido malicioso, como se muestra en los resultados. Esto representa un riesgo significativo para los usuarios que dependen del chatbot para obtener información y asistencia precisas.
Al reconocer estas preocupaciones, Google ha declarado que está trabajando activamente para resolver problemas con la funcionalidad del chatbot. Según un informe de The Hacker News, Google enfatizó su compromiso de proteger a los usuarios de las vulnerabilidades mediante la realización de rigurosos ejercicios de prueba y el entrenamiento de sus modelos para proteger contra comportamientos adversarios como la inyección rápida y el jailbreak. Además, la empresa se compromete a reducir la difusión de información engañosa generada por el chatbot Gemini.
La aparición de estos fallos de seguridad se suma a las preocupaciones existentes sobre la fiabilidad de las herramientas de inteligencia artificial desarrolladas por Google. Anteriormente, la empresa enfrentó una controversia en torno a su dispositivo de imágenes, lo que llevó a la suspensión de sus operaciones. Se supone que Google está trabajando en una mejor versión de la herramienta para abordar estas preocupaciones.
A medida que los usuarios dependen cada vez más de las herramientas de inteligencia artificial para diversas tareas, garantizar su seguridad y confiabilidad sigue siendo primordial. El descubrimiento de vulnerabilidades en el chatbot Gemini destaca los desafíos actuales en el desarrollo e implementación de tecnologías de inteligencia artificial de manera responsable.
¡Desbloquee un mundo de beneficios! Desde informativos informativos hasta seguimiento de acciones en tiempo real, noticias de última hora y noticias personalizadas: ¡todo está aquí, a solo un clic de distancia! ¡Entra ahora!
Obtenga todas las noticias comerciales, noticias de mercado, actualizaciones de noticias de última hora y las últimas actualizaciones de noticias en Live Mint. Descargue la aplicación Mint News para obtener actualizaciones diarias del mercado.
Más Menos
Publicado: 15 de marzo de 2024, 05:03 p. m. IST
