Manus достиг GAIA Бенчмарк тестирования SOTA, вызвав обсуждение путей развития ИИ
Manus продемонстрировал выдающуюся производительность в Бенчмарке GAIA, превзойдя модели сопоставимого уровня. Это означает, что он может самостоятельно решать сложные задачи, такие как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимущества Manus заключаются в его динамическом разбиении целей, кросс-модальном рассуждении и способности к улучшению обучения с помощью памяти. Он может разбивать крупные задачи на сотни выполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений с помощью обучения с подкреплением, снижая уровень ошибок.
Прорыв Manus вновь вызвал обсуждение путей дальнейшего развития в области искусственного интеллекта: двигаться к доминированию общего искусственного интеллекта (AGI) или к доминированию многопользовательских систем (MAS)?
Дизайнерская концепция Manus включает в себя две возможности:
Путь AGI: постоянное повышение уровня индивидуального интеллекта, приближающего его к общей способности к принятию решений человеком.
MAS путь: в качестве суперкоординатора, управляет многими вертикальными агентами, работающими совместно.
Это обсуждение на самом деле затрагивает ключевую проблему развития ИИ: как достичь баланса между эффективностью и безопасностью? Поскольку индивидуальный интеллект все ближе к AGI, риск непрозрачности его процесса принятия решений также возрастает; в то время как сотрудничество между несколькими агентами может снизить риск, оно может также привести к упущению ключевых моментов принятия решений из-за задержек в коммуникации.
Прогресс Manus также подчеркивает врожденные риски в развитии ИИ. Например, в медицинских сценариях Manus необходимо в реальном времени получать доступ к чувствительным данным пациентов; в финансовых переговорах могут быть задействованы нераскрытые информации компаний. Кроме того, существует проблема алгоритмической предвзятости, такая как возможность несправедливых предложений по зарплате для определенных групп в процессе найма, или высокая вероятность неверной оценки условий для новых отраслей при проверке юридических контрактов. Еще один потенциальный риск — это атакующие действия, например, хакеры могут внедрять определенные звуковые сигналы, чтобы вмешиваться в суждения Manus во время переговоров.
Эти вызовы подчеркивают одну ключевую проблему: чем умнее система ИИ, тем шире ее потенциальная уязвимость.
В области Web3 безопасность всегда была ключевым аспектом. Исходя из этой концепции, было разработано множество криптографических методов:
Модель нулевого доверия: акцент на строгой аутентификации и авторизации каждого запроса на доступ.
Децентрализованная идентичность (DID): реализована новая децентрализованная модель цифровой идентичности.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над зашифрованными данными без их расшифровки.
Среди них полное гомоморфное шифрование считается мощным инструментом для решения проблем безопасности в эпоху ИИ. Оно позволяет выполнять вычисления над зашифрованными данными, открывая новые возможности для защиты конфиденциальности.
При решении проблем безопасности ИИ FHE может играть роль на нескольких уровнях:
На уровне данных: вся информация, вводимая пользователем, обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения зашифрованной модели" с помощью FHE, чтобы обеспечить защиту процесса принятия решений ИИ от наблюдения.
Координационный уровень: связь между несколькими агентами осуществляется с использованием шифрования с порогом, чтобы предотвратить утечку глобальных данных из-за утечки в одной точке.
Несмотря на то, что технологии безопасности Web3 в настоящее время могут быть далеки от обычных пользователей, их важность нельзя игнорировать. В этой сложной области только постоянное усиление защиты может предотвратить становление потенциальной жертвой.
С развитием технологий ИИ, которые все ближе подходят к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. FHE не только решает текущие проблемы безопасности, но и закладывает основу для будущей эпохи сильного ИИ. На пути к AGI FHE уже превратилось из опционального в необходимое для выживания.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
6 Лайков
Награда
6
5
Поделиться
комментарий
0/400
CryptoCross-TalkClub
· 17ч назад
Этот ИИ как-то растет быстрее, чем неудачники.
Посмотреть ОригиналОтветить0
NFT_Therapy
· 17ч назад
Модель такая умная, что каждый день стрижёт неудачников, что делать?
Посмотреть ОригиналОтветить0
MEVictim
· 17ч назад
Все еще заморачиваюсь с AGI, действительно очень утомительно.
Посмотреть ОригиналОтветить0
SandwichHunter
· 17ч назад
Голова болит, AGI слишком сложный.
Посмотреть ОригиналОтветить0
ForkPrince
· 17ч назад
Чей-то умный агент снова играет в повышение уровня и борьбу с монстрами?
Модель Manus превосходит аналогичные модели, вызывая争议 о путях развития ИИ.
Manus достиг GAIA Бенчмарк тестирования SOTA, вызвав обсуждение путей развития ИИ
Manus продемонстрировал выдающуюся производительность в Бенчмарке GAIA, превзойдя модели сопоставимого уровня. Это означает, что он может самостоятельно решать сложные задачи, такие как международные бизнес-переговоры, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимущества Manus заключаются в его динамическом разбиении целей, кросс-модальном рассуждении и способности к улучшению обучения с помощью памяти. Он может разбивать крупные задачи на сотни выполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений с помощью обучения с подкреплением, снижая уровень ошибок.
Прорыв Manus вновь вызвал обсуждение путей дальнейшего развития в области искусственного интеллекта: двигаться к доминированию общего искусственного интеллекта (AGI) или к доминированию многопользовательских систем (MAS)?
Дизайнерская концепция Manus включает в себя две возможности:
Путь AGI: постоянное повышение уровня индивидуального интеллекта, приближающего его к общей способности к принятию решений человеком.
MAS путь: в качестве суперкоординатора, управляет многими вертикальными агентами, работающими совместно.
Это обсуждение на самом деле затрагивает ключевую проблему развития ИИ: как достичь баланса между эффективностью и безопасностью? Поскольку индивидуальный интеллект все ближе к AGI, риск непрозрачности его процесса принятия решений также возрастает; в то время как сотрудничество между несколькими агентами может снизить риск, оно может также привести к упущению ключевых моментов принятия решений из-за задержек в коммуникации.
Прогресс Manus также подчеркивает врожденные риски в развитии ИИ. Например, в медицинских сценариях Manus необходимо в реальном времени получать доступ к чувствительным данным пациентов; в финансовых переговорах могут быть задействованы нераскрытые информации компаний. Кроме того, существует проблема алгоритмической предвзятости, такая как возможность несправедливых предложений по зарплате для определенных групп в процессе найма, или высокая вероятность неверной оценки условий для новых отраслей при проверке юридических контрактов. Еще один потенциальный риск — это атакующие действия, например, хакеры могут внедрять определенные звуковые сигналы, чтобы вмешиваться в суждения Manus во время переговоров.
Эти вызовы подчеркивают одну ключевую проблему: чем умнее система ИИ, тем шире ее потенциальная уязвимость.
В области Web3 безопасность всегда была ключевым аспектом. Исходя из этой концепции, было разработано множество криптографических методов:
Модель нулевого доверия: акцент на строгой аутентификации и авторизации каждого запроса на доступ.
Децентрализованная идентичность (DID): реализована новая децентрализованная модель цифровой идентичности.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над зашифрованными данными без их расшифровки.
Среди них полное гомоморфное шифрование считается мощным инструментом для решения проблем безопасности в эпоху ИИ. Оно позволяет выполнять вычисления над зашифрованными данными, открывая новые возможности для защиты конфиденциальности.
При решении проблем безопасности ИИ FHE может играть роль на нескольких уровнях:
На уровне данных: вся информация, вводимая пользователем, обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения зашифрованной модели" с помощью FHE, чтобы обеспечить защиту процесса принятия решений ИИ от наблюдения.
Координационный уровень: связь между несколькими агентами осуществляется с использованием шифрования с порогом, чтобы предотвратить утечку глобальных данных из-за утечки в одной точке.
Несмотря на то, что технологии безопасности Web3 в настоящее время могут быть далеки от обычных пользователей, их важность нельзя игнорировать. В этой сложной области только постоянное усиление защиты может предотвратить становление потенциальной жертвой.
С развитием технологий ИИ, которые все ближе подходят к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. FHE не только решает текущие проблемы безопасности, но и закладывает основу для будущей эпохи сильного ИИ. На пути к AGI FHE уже превратилось из опционального в необходимое для выживания.