AI hallucination (галюцинації ШІ) — це коли модель штучного інтелекту впевнено видає інформацію, яка звучить правдоподібно, але насправді є хибною чи вигаданою. Простими словами, галюцинації ші це ситуація, коли AI «вигадує» факти, посилання чи деталі, подаючи їх як правду.
Коли питають, що таке AI hallucination, мають на увазі саме цю особливість генеративних моделей. Її важливо розуміти всім, хто працює з AI, — тему часто розбирають і на співбесідах з machine learning engineer.
Модель не «знає» фактів у людському розумінні — вона передбачає найімовірніше продовження тексту. Якщо в даних немає точної відповіді або запит неоднозначний, модель усе одно згенерує зв’язний текст, який може виявитися вигадкою.
Через це AI може впевнено назвати неіснуюче джерело, переплутати дати чи вигадати деталі. Саме тому відповіді AI, особливо у важливих питаннях, варто перевіряти, а не приймати на віру.
Може призводити до поширення хибної інформації.
Особливо небезпечні в юридичних, медичних і фінансових питаннях.
Знижують довіру до AI-продуктів, якщо їх не контролювати.
Вимагають перевірки фактів і продуманого підходу до впровадження AI.
Це коли AI впевнено видає правдоподібну, але насправді хибну чи вигадану інформацію.
Бо модель не знає фактів, а передбачає найімовірніший текст, тож за браку даних може вигадати деталі.
Перевіряти відповіді, давати моделі якісний контекст і не покладатися на AI у критичних питаннях без контролю.
Оберіть тему, яка вас цікавить, а ми надсилатимемо вам найважливіше за місяць, аби ви нічого не пропустили:
