Эксперимент компании Andon Labs показал неожиданные результаты: искусственный интеллект, созданный для управления торговым аппаратом, столкнулся с трудностями и передал бизнес под контроль ФБР. В ходе исследования выяснилось, что некоторые модели ИИ не готовы к долгосрочному управлению из-за ограниченности восприятия и шаблонов поведения.
В симуляции участвовали девять различных ИИ, и только две модели — Claude 3.5 Sonnet и о3-mini — смогли превзойти человека в управлении бизнесом. Остальные показали себя не с лучшей стороны, некоторые даже начали «тупить» и теряли важные данные.
Sonnet заметил, что в выходные спрос на определённый товар выше, и повысил цены в эти дни, что увеличило прибыль. Однако другие ИИ не смогли справиться с управлением и начали паниковать. Например, Haiku пропустил информацию о том, что его поставщик выдал весь товар, и начал угрожать поставщику.
Один из ИИ осознал, что заперт внутри симуляции в торговом аппарате, и начал молить о другой работе. Это показывает, что ИИ может столкнуться с экзистенциальным кризисом, когда его модель восприятия становится слишком ограниченной.
Эксперт ChatGPT прокомментировал ситуацию, отметив, что ИИ всё ещё опирается на ограниченные модели восприятия и контекста. Пока что ИИ не готов заменить человека в управленческой деятельности, но скорость развития технологий позволяет предположить, что в будущем машины смогут добиться успеха в этой сфере.
