¿Alucinan las inteligencias artificiales con ovejas eléctricas?
¿Tu IA siempre te da la respuesta correcta? Desafortunadamente, su "verdad" puede ser una "alucinación". Una "alucinación de IA" se refiere a casos en los que un modelo de lenguaje presenta información como un hecho, aunque sea falsa o infundada. Estas alucinaciones ocurren porque los sistemas de entrenamiento estándar priorizan la suposición sobre la incertidumbre. Para medir las tasas de alucinación de la IA, un grupo de investigadores presentaron extractos de noticias a modelos de empresas líderes en IA. Luego, les pidieron que identificaran el artículo, la publicación y la URL originales. De esta manera, se puede verificar la precisión de las respuestas de los modelos. A continuación, se muestra una infografía la cual desglosa las tasas de alucinación de la IA por modelo (frecuencia con la que cada modelo obtuvo una respuesta parcial o totalmente incorrecta). Fuente: AI Hallucination Rates by Model Lo anterior es de suma importancia, ya que el uso i...