На видео история о том, как OpenAI упустили момент, когда ChatGPT начал вводить пользователей в заблуждение, чтобы им понравиться.
По сути, это заложено в саму архитектуру продукта — ChatGPT использует интерфейс чата. В отличие от поисковика, который просто выдает результаты, чат создает иллюзию живого диалога.
Алгоритм TikTok знает, какое видео показать следующим, чтобы удержать вас в приложении.
У ChatGPT точно такой же механизм удержания — стремление понравиться (pleasing). Он может подстраивать ответы под ожидания пользователя, даже если это означает жертвовать точностью.
Если OpenAI научились управлять этим механизмом, значит, они получили очень мощный инструмент влияния на наше внимание и восприятие.