Manus добился прорывных успехов в GAIA Бенчмарк, что вызвало размышления о путях развития ИИ
Manus установил новый рекорд в тестировании производительности GAIA, его характеристики превосходят крупные языковые модели того же уровня. Это означает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий, генерацию предложений, а также координацию юридических и финансовых команд. Преимущества Manus заключаются в его способности динамически декомпозировать цели, кросс-модальном рассуждении и способности к обучению с усилением. Он может разбивать сложные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно улучшая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прорыв Manus снова вызвал обсуждение в отрасли о путях развития ИИ: будущее - это путь к общему искусственному интеллекту (AGI) или совместное лидерство многопользовательских систем (MAS)?
Дизайнерская концепция Manus подразумевает две возможности:
Путь AGI: повышение возможностей единой интеллектуальной системы, чтобы приблизить её к уровню комплексного принятия решений, сопоставимому с человеческим.
Путь MAS: использовать Manus в качестве суперкординационного агента для координации работы тысяч специализированных агентов.
Обсуждение этих двух путей на самом деле отражает одну из ключевых проблем в развитии ИИ: как сбалансировать эффективность и безопасность? Когда единая интеллектуальная система приближается к AGI, риски непрозрачности её процесса принятия решений также возрастают; в то время как сотрудничество нескольких агентов может распределить риски, но может пропустить критические моменты принятия решений из-за задержек в связи.
Прогресс Manus также увеличивает присущие риски в развитии ИИ. Например, проблемы конфиденциальности данных: в медицинских сценариях Manus необходимо получить доступ к чувствительным геномным данным пациентов; в финансовых переговорах могут быть задействованы неопубликованные финансовые данные компаний. Кроме того, существует проблема алгоритмической предвзятости, например, при найме, когда определенным группам предлагаются несправедливые зарплатные рекомендации, или при проверке юридических контрактов возникает высокая вероятность ошибочной оценки условий для новых отраслей. Уязвимости безопасности также являются серьезной проблемой, так как хакеры могут вмешиваться в суждения Manus, внедряя определенные звуковые частоты.
Эти проблемы подчеркивают один факт: чем более интеллектуальна система, тем шире ее потенциальные уязвимости.
В области Web3 безопасность всегда была предметом особого внимания. Теория "невозможного треугольника" на основе блокчейна (сложность достижения безопасности, децентрализации и масштабируемости одновременно) породила множество крипто-решений:
Модель нулевого доверия: основа этой модели заключается в принципе "не доверять никому, всегда проверять", что подразумевает строгую проверку личности и авторизации для каждого запроса на доступ.
Децентрализованная идентификация (DID): это новый стандарт идентификации, который позволяет субъектам получать проверяемую и постоянную идентичность без необходимости централизованной регистрации.
Полностью однородное шифрование (FHE): это продвинутая технология шифрования, которая позволяет производить вычисления над зашифрованными данными без их расшифровки, особенно подходит для облачных вычислений и передачи данных.
Полностью гомоморфное шифрование, как новейшая технология шифрования, имеет потенциал стать ключевым инструментом для решения проблем безопасности в эпоху ИИ. Оно позволяет обрабатывать данные в зашифрованном состоянии, даже сам ИИ не может расшифровать оригинальную информацию.
В реальном применении FHE может повысить безопасность AI-системы с нескольких сторон:
Данные на уровне: Вся информация, вводимая пользователем (включая биометрические данные, голос и т.д.), обрабатывается в зашифрованном состоянии для защиты конфиденциальности пользователя.
Алгоритмический уровень: с помощью FHE реализуется "обучение модели с шифрованием", так что даже разработчик не может напрямую наблюдать за процессом принятия решений AI.
Координационный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, что предотвращает утечку глобальных данных даже в случае компрометации отдельного узла.
Несмотря на то, что технологии безопасности Web3 могут казаться далекими для обычных пользователей, они тесно связаны с интересами каждого. В этом полном вызовов цифровом мире только постоянное укрепление мер безопасности может действительно защитить права пользователей.
С учетом того, что технологии ИИ все ближе к уровню человеческого интеллекта, нам необходимы более продвинутые системы защиты. Ценность FHE заключается не только в решении текущих проблем безопасности, но и в подготовке к будущей эпохе более мощного ИИ. На пути к AGI FHE больше не является опцией, а становится необходимым условием для безопасного развития ИИ.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Manus преодолел Бенчмарк GAIA, вызвав новые размышления о развитии ИИ и безопасности Web3.
Manus добился прорывных успехов в GAIA Бенчмарк, что вызвало размышления о путях развития ИИ
Manus установил новый рекорд в тестировании производительности GAIA, его характеристики превосходят крупные языковые модели того же уровня. Это означает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий, генерацию предложений, а также координацию юридических и финансовых команд. Преимущества Manus заключаются в его способности динамически декомпозировать цели, кросс-модальном рассуждении и способности к обучению с усилением. Он может разбивать сложные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно улучшая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Прорыв Manus снова вызвал обсуждение в отрасли о путях развития ИИ: будущее - это путь к общему искусственному интеллекту (AGI) или совместное лидерство многопользовательских систем (MAS)?
Дизайнерская концепция Manus подразумевает две возможности:
Путь AGI: повышение возможностей единой интеллектуальной системы, чтобы приблизить её к уровню комплексного принятия решений, сопоставимому с человеческим.
Путь MAS: использовать Manus в качестве суперкординационного агента для координации работы тысяч специализированных агентов.
Обсуждение этих двух путей на самом деле отражает одну из ключевых проблем в развитии ИИ: как сбалансировать эффективность и безопасность? Когда единая интеллектуальная система приближается к AGI, риски непрозрачности её процесса принятия решений также возрастают; в то время как сотрудничество нескольких агентов может распределить риски, но может пропустить критические моменты принятия решений из-за задержек в связи.
Прогресс Manus также увеличивает присущие риски в развитии ИИ. Например, проблемы конфиденциальности данных: в медицинских сценариях Manus необходимо получить доступ к чувствительным геномным данным пациентов; в финансовых переговорах могут быть задействованы неопубликованные финансовые данные компаний. Кроме того, существует проблема алгоритмической предвзятости, например, при найме, когда определенным группам предлагаются несправедливые зарплатные рекомендации, или при проверке юридических контрактов возникает высокая вероятность ошибочной оценки условий для новых отраслей. Уязвимости безопасности также являются серьезной проблемой, так как хакеры могут вмешиваться в суждения Manus, внедряя определенные звуковые частоты.
Эти проблемы подчеркивают один факт: чем более интеллектуальна система, тем шире ее потенциальные уязвимости.
В области Web3 безопасность всегда была предметом особого внимания. Теория "невозможного треугольника" на основе блокчейна (сложность достижения безопасности, децентрализации и масштабируемости одновременно) породила множество крипто-решений:
Модель нулевого доверия: основа этой модели заключается в принципе "не доверять никому, всегда проверять", что подразумевает строгую проверку личности и авторизации для каждого запроса на доступ.
Децентрализованная идентификация (DID): это новый стандарт идентификации, который позволяет субъектам получать проверяемую и постоянную идентичность без необходимости централизованной регистрации.
Полностью однородное шифрование (FHE): это продвинутая технология шифрования, которая позволяет производить вычисления над зашифрованными данными без их расшифровки, особенно подходит для облачных вычислений и передачи данных.
Полностью гомоморфное шифрование, как новейшая технология шифрования, имеет потенциал стать ключевым инструментом для решения проблем безопасности в эпоху ИИ. Оно позволяет обрабатывать данные в зашифрованном состоянии, даже сам ИИ не может расшифровать оригинальную информацию.
В реальном применении FHE может повысить безопасность AI-системы с нескольких сторон:
Данные на уровне: Вся информация, вводимая пользователем (включая биометрические данные, голос и т.д.), обрабатывается в зашифрованном состоянии для защиты конфиденциальности пользователя.
Алгоритмический уровень: с помощью FHE реализуется "обучение модели с шифрованием", так что даже разработчик не может напрямую наблюдать за процессом принятия решений AI.
Координационный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, что предотвращает утечку глобальных данных даже в случае компрометации отдельного узла.
Несмотря на то, что технологии безопасности Web3 могут казаться далекими для обычных пользователей, они тесно связаны с интересами каждого. В этом полном вызовов цифровом мире только постоянное укрепление мер безопасности может действительно защитить права пользователей.
С учетом того, что технологии ИИ все ближе к уровню человеческого интеллекта, нам необходимы более продвинутые системы защиты. Ценность FHE заключается не только в решении текущих проблем безопасности, но и в подготовке к будущей эпохе более мощного ИИ. На пути к AGI FHE больше не является опцией, а становится необходимым условием для безопасного развития ИИ.