Què son les al·lucinacions en IA? Les al·lucinacions es refereixen a quan un model, en general de llenguatge natural (LLMs),  genera informació que sembla real i molt convincent però és errònia. Aquestes al·lucinacions poden sorgir a causa de diverses raons, com la manca de context adequat, l'ambigüitat en la pregunta de l'usuari, o simplement perquè el model intenta "emplenar" informació quan no té prou coneixement sobre el tema, entre d’altres. Aquests errors no són intencionals, però sorgeixen perquè els models estan dissenyats per generar resultats coherents basats en patrons de dades prèvies, que prioritzen la coherència estadística, però no necessàriament garanteixen la seva veracitat. D’aquesta manera el model pot inventar-se cites d’un autor, pot descriure una biografia d’una persona fictícia, etc. D’acord amb Business Insider els xatbots poden al·lucinar fins al 27% d’interaccions.

Aquest problema té riscos importants, per exemple en els camps de a medicina o  el dret. Les al·lucinacions poden portar a la desinformació i decisions incorrectes si no s'identifiquen i gestionen adequadament. Per això, és important que els desenvolupadors d'IA implementin mecanismes per detectar i mitigar aquestes al·lucinacions, com ara la verificació creuada d'informació i l'ús de dades d'entrenament més robustes i variades. A més, els usuaris han de ser conscients d’aquesta limitació i utilitzar la IA com una eina complementària, que s’ha d’emprar amb esperit crític.