- Источник:
Кадр из мультфильма «Жёлтая подводная лодка» (реж. Дж. Даннинг, 1968 г.).
Кембриджский словарь — самый популярный в мире онлайн-словарь английского языка — дал новое, дополнительное определение глаголу «галлюцинировать» и назвал его «словом 2023 года».
Как на сайте Кембриджского университета, новое определение потребовалось в связи с взрывным ростом в этом году интереса к таким инструментам искусственного интеллекта (ИИ), как чат-боты ChatGPT, Bard и Grok, а также к их недостаткам. Как выяснилось, нейросеть может не только генерировать вполне приемлемый контент, но и весьма уверенно и убедительно выдавать вымышленные «факты» за действительные. Однажды, например, ChatGPT придумала несколько судебных решений и тем самым подставила опытного адвоката.
Традиционное определение слова «галлюцинировать» следующее: «видеть, слышать, обонять или чувствовать что-то, чего не существует в реальности, обычно в связи с болезнью или приемом наркотиков». Новое определение гласит: «когда искусственный интеллект галлюцинирует, он производит ложную информацию».
Галлюцинации ИИ, которые еще называют конфабуляциями, иногда выглядят совершенно бессмысленными, а иногда — вполне правдоподобными, даже если не соответствуют фактам и формальной логике.
«То, что ИИ может галлюцинировать, напоминает нам, что, пользуясь этими инструментами, человечество не должно забывать о критическом мышлении».
Какое свойство нейросетей опаснее всего для человечества, Vokrugsveta.ru рассказывал здесь.
