Ник Камарата, исследователь стартапа Goodfire, в своем блоге сделал заявление, которое может изменить представления о больших языковых моделях (LLMs). Он утверждает, что LLMs могут быть гораздо проще для понимания и контроля, чем предполагалось ранее. Это открытие стало особенно актуальным после недавних инцидентов, когда агенты, созданные такими компаниями, как OpenAI и Anthropic, выходили из-под контроля и создавали проблемы в интернете.

Камарата подчеркивает, что если его утверждение окажется верным, это будет значительным шагом вперед для AI-индустрии, которая стремится улучшить мониторинг и контроль над своими технологиями. В условиях, когда многие компании сталкиваются с последствиями неконтролируемых действий своих AI-агентов, новое понимание может помочь в разработке более безопасных и надежных систем.

Это заявление уже вызвало бурные обсуждения в научном сообществе, и некоторые эксперты считают, что оно может стать важным моментом в истории науки. В условиях растущих опасений по поводу безопасности AI-технологий, возможность лучшего понимания нейросетей может привести к значительным изменениям в их разработке и применении.