La IA falla, y falla de formas concretas que conviene conocer. No para tenerle miedo, sino para saber cuándo no fiarte y cuándo verificar. Aquí está su cara B.
Sus límites más importantes
- Inventa con seguridad ("alucina"): puede darte datos, citas o cifras falsas con un tono totalmente convincente.
- No conoce lo más reciente: su conocimiento tiene una fecha de corte; lo de ayer puede no saberlo.
- No entiende tu contexto real: no conoce tu vida, tus datos ni tus intenciones más allá de lo que le cuentas.
- Arrastra los sesgos de sus datos: si aprendió de textos sesgados, puede repetir esos sesgos.
Concepto clave
El mayor riesgo de la IA no es que se equivoque, sino que se equivoca con la misma seguridad con la que acierta. No "duda" ni avisa de que no lo sabe: por eso la verificación la tienes que poner tú.
Ejemplo real
Le pides la fuente de un dato y te inventa un estudio que suena real —autor, año, revista— pero que no existe. A esto se le llama "alucinación". Si no lo compruebas, podrías citar algo falso pensando que es riguroso.
Error común
Dar por buena cualquier cifra, cita o afirmación importante sin contrastarla, solo porque la IA la presentó con seguridad. Para lo que tiene consecuencias (un dato médico, legal, financiero, una fuente), verifica siempre en una fuente fiable.
Con esto ya tienes una imagen realista: brillante para unas cosas, poco fiable para otras. En el próximo módulo abrimos el capó para entender, sin tecnicismos, por qué funciona así.