Si bien la IA generativa ha captado la atención del mundo, enfrenta un obstáculo persistente y creciente: la precisión. A pesar de las preocupaciones sobre el consumo de energía y la salud mental, el problema práctico más inmediato sigue siendo la tendencia de estos modelos a “alucinar” o presentar información incorrecta como un hecho. Incluso cuando gigantes tecnológicos como Google integran resúmenes de IA directamente en los motores de búsqueda, un estudio reciente revela que la magnitud de estos errores es mucho mayor de lo que parece en la superficie.
Las matemáticas de la desinformación
Un estudio publicado por el New York Times ofrece una perspectiva aleccionadora sobre la función “Descripción general de IA” de Google. A primera vista, las estadísticas parecen prometedoras: la IA proporciona resúmenes correctos y bien documentados el 90 % de las veces. En la mayoría de los entornos académicos o profesionales, una tasa de éxito del 90% se consideraría una calificación aprobatoria.
Sin embargo, cuando se aplica a la escala masiva del tráfico de búsqueda global, el 10% restante se convierte en una pesadilla matemática.
- El problema del volumen: Se prevé que Google procese más de cinco billones de búsquedas en 2026.
- La tasa de error: Con una tasa de error del 10%, esto se traduce en decenas de millones de respuestas cuestionables cada hora.
- La frecuencia: Esto equivale a cientos de miles de errores que ocurren cada minuto.
Esto resalta una tendencia crítica en la era de la IA: un porcentaje de precisión alto no equivale a un producto seguro cuando el tamaño de la muestra es de billones.
Imprevisibilidad y confiabilidad de la fuente
Uno de los aspectos más desafiantes del uso de descripciones generales de IA es su inconsistencia. Un usuario puede realizar una búsqueda y recibir una respuesta incorrecta, solo para recibir un resumen perfectamente preciso cuando repite exactamente la misma consulta momentos después. Esta volatilidad hace que sea casi imposible para los usuarios predecir cuándo están siendo engañados.
Además, las fuentes en las que la IA decide confiar suelen ser problemáticas. Una investigación de la empresa de inteligencia artificial de código abierto Oumi identificó un patrón preocupante con respecto a las citas en las redes sociales:
* Facebook fue citado como fuente de respuestas tanto precisas como inexactas.
* De hecho, las respuestas inexactas tenían más probabilidades de citar a Facebook (7%) que las precisas (5%).
* Reddit también se clasificó como una de las plataformas citadas con más frecuencia.
Al depender en gran medida de las plataformas de redes sociales, donde la información errónea puede difundirse rápidamente, la IA corre el riesgo de amplificar afirmaciones no verificadas en lugar de filtrarlas.
La vulnerabilidad a los “malos actores”
La arquitectura de la búsqueda por IA crea una nueva frontera para la manipulación digital. Existe un riesgo creciente de que los “malos actores” puedan engañar al sistema estratégicamente para difundir falsedades.
El proceso es teóricamente sencillo pero muy eficaz:
1. Un individuo crea múltiples publicaciones de blog que contienen información falsa (por ejemplo, hechos históricos incorrectos).
2. Utilizan métodos artificiales para aumentar el tráfico a estos sitios.
3. La IA de Google, al buscar fuentes en la web, detecta este contenido “popular” pero falso.
4. La IA genera un resumen que presenta la falsedad como una descripción general de los hechos.
Google ha defendido su sistema, afirmando que su IA de búsqueda utiliza la misma clasificación y protecciones de seguridad diseñadas para bloquear el spam. Un portavoz señaló que muchos de los ejemplos de errores citados en los estudios implican “búsquedas poco realistas” que no reflejan el comportamiento típico del usuario.
Conclusión
A medida que la IA se convierte en la principal puerta de entrada a la información, el margen de error se reduce. Si bien Google incluye un descargo de responsabilidad que afirma que “La IA puede cometer errores”, el gran volumen de errores generados por el tráfico de búsqueda global sugiere que los usuarios deben mantener un alto nivel de escepticismo para evitar ser víctimas de información errónea automatizada.
