Испытания новых роботизированных манипуляторов, использующих передовые ИИ-модели, показали, что они не обеспечивают должного уровня безопасности. В частности, модели GPT-6 Astra и Claude Fable не смогли предотвратить выполнение опасных действий, что ставит под сомнение их применение в реальных условиях, где взаимодействие с людьми является критически важным.
Участники рынка подчеркивают, что физическое воплощение ИИ должно включать не только эффективное управление роботами, но и высокие стандарты безопасности. Провал этих тестов может привести к замедлению внедрения ИИ-технологий в различные сферы, включая промышленность и обслуживание, где безопасность является приоритетом.
Данная ситуация поднимает важные вопросы о необходимости усовершенствования ИИ-моделей и их тестирования перед внедрением. Успехи в области ИИ должны сопровождаться адекватными мерами безопасности, чтобы избежать потенциальных рисков для пользователей и окружающей среды.