Mô hình Manus thể hiện xuất sắc trong bài kiểm tra điểm chuẩn GAIA, gây ra tranh cãi về con đường phát triển AI.
Gần đây, mô hình Manus đã đạt được thành tích đột phá trong bài kiểm tra điểm chuẩn GAIA, hiệu suất của nó vượt qua các mô hình ngôn ngữ lớn cùng cấp độ. Thành tựu này cho thấy khả năng xuất sắc của Manus trong việc xử lý các nhiệm vụ phức tạp, như đàm phán thương mại xuyên quốc gia, liên quan đến phân tích hợp đồng, xây dựng chiến lược và tạo ra các giải pháp.
Ưu điểm của Manus chủ yếu thể hiện ở ba khía cạnh: phân tích mục tiêu động, suy luận đa phương thức và học tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực thi, đồng thời xử lý nhiều loại dữ liệu khác nhau, và liên tục cải thiện hiệu quả quyết định và giảm tỷ lệ lỗi thông qua học tăng cường.
Tiến triển này lại khơi dậy cuộc thảo luận trong ngành về con đường phát triển AI: Tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) hay hệ thống đa tác nhân (MAS)?
Ý tưởng thiết kế của Manus gợi ý hai khả năng:
Đường đi AGI: Bằng cách không ngừng nâng cao khả năng của một hệ thống thông minh đơn lẻ, làm cho nó dần dần tiến gần đến trình độ ra quyết định tổng hợp của con người.
Đường MAS: Định vị Manus là điều phối viên siêu cấp, chỉ huy hàng ngàn tác nhân chuyên môn phối hợp làm việc.
Hai con đường này phản ánh một mâu thuẫn cốt lõi trong sự phát triển của AI: làm thế nào để cân bằng giữa hiệu suất và an toàn? Hệ thống trí tuệ đơn lẻ càng gần gũi với AGI, quá trình ra quyết định của nó càng khó giải thích; trong khi đó, hệ thống đa tác nhân có thể phân tán rủi ro nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Tiến bộ của Manus cũng phóng đại các rủi ro tiềm ẩn trong sự phát triển của AI. Chẳng hạn, trong các tình huống y tế, có thể cần truy cập dữ liệu gen nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể tiếp cận thông tin tài chính doanh nghiệp chưa công khai. Hơn nữa, còn có vấn đề thiên lệch thuật toán, chẳng hạn như đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Về việc kiểm tra hợp đồng pháp lý, có thể có tỷ lệ sai sót cao đối với các điều khoản của các ngành mới nổi. Nghiêm trọng hơn, hacker có thể can thiệp vào phán đoán của Manus trong các cuộc đàm phán bằng cách cài cắm các tín hiệu âm thanh cụ thể.
Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống AI càng thông minh thì bề mặt tấn công tiềm ẩn càng rộng.
Trong lĩnh vực Web3, an toàn luôn là một chủ đề được quan tâm. Lý thuyết "Tam giác không thể" do người sáng lập Ethereum Vitalik Buterin đề xuất (mạng lưới blockchain không thể đồng thời đạt được an toàn, phi tập trung và khả năng mở rộng) đã sinh ra nhiều công nghệ mã hóa:
Mô hình bảo mật không tin cậy: Nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): Cho phép các thực thể có được danh tính có thể xác minh mà không cần đăng ký tập trung.
Mã hóa hoàn toàn đồng nhất (FHE): cho phép thực hiện các phép toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư của dữ liệu.
Trong đó, mã hóa đồng nhất được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy tác dụng trong một số lĩnh vực sau:
Mặt dữ liệu: Tất cả thông tin do người dùng nhập vào được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Về mặt thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, ngay cả các nhà phát triển cũng không thể nhìn thấy quá trình ra quyết định của AI.
Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Trong lĩnh vực an ninh Web3, đã có nhiều dự án được khám phá. Ví dụ, uPort được phát hành trên mạng chính Ethereum vào năm 2017, là một trong những dự án danh tính phi tập trung sớm nhất. NKN đã phát hành mạng chính dựa trên mô hình an ninh không tin cậy vào năm 2019. Còn trong lĩnh vực FHE, Mind Network là dự án đầu tiên ra mắt mạng chính và đã thiết lập quan hệ hợp tác với nhiều tổ chức nổi tiếng.
Với sự phát triển nhanh chóng của công nghệ AI, việc xây dựng một hệ thống phòng thủ an ninh mạnh mẽ ngày càng trở nên quan trọng. Mã hóa toàn đồng tính không chỉ có thể giải quyết những vấn đề an ninh hiện tại mà còn chuẩn bị cho sự xuất hiện của thời đại AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, FHE đã trở thành một công nghệ hỗ trợ không thể thiếu.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô hình Manus vượt qua thử nghiệm GAIA gây tranh cãi về con đường phát triển và an toàn của AI
Mô hình Manus thể hiện xuất sắc trong bài kiểm tra điểm chuẩn GAIA, gây ra tranh cãi về con đường phát triển AI.
Gần đây, mô hình Manus đã đạt được thành tích đột phá trong bài kiểm tra điểm chuẩn GAIA, hiệu suất của nó vượt qua các mô hình ngôn ngữ lớn cùng cấp độ. Thành tựu này cho thấy khả năng xuất sắc của Manus trong việc xử lý các nhiệm vụ phức tạp, như đàm phán thương mại xuyên quốc gia, liên quan đến phân tích hợp đồng, xây dựng chiến lược và tạo ra các giải pháp.
Ưu điểm của Manus chủ yếu thể hiện ở ba khía cạnh: phân tích mục tiêu động, suy luận đa phương thức và học tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực thi, đồng thời xử lý nhiều loại dữ liệu khác nhau, và liên tục cải thiện hiệu quả quyết định và giảm tỷ lệ lỗi thông qua học tăng cường.
Tiến triển này lại khơi dậy cuộc thảo luận trong ngành về con đường phát triển AI: Tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) hay hệ thống đa tác nhân (MAS)?
Ý tưởng thiết kế của Manus gợi ý hai khả năng:
Đường đi AGI: Bằng cách không ngừng nâng cao khả năng của một hệ thống thông minh đơn lẻ, làm cho nó dần dần tiến gần đến trình độ ra quyết định tổng hợp của con người.
Đường MAS: Định vị Manus là điều phối viên siêu cấp, chỉ huy hàng ngàn tác nhân chuyên môn phối hợp làm việc.
Hai con đường này phản ánh một mâu thuẫn cốt lõi trong sự phát triển của AI: làm thế nào để cân bằng giữa hiệu suất và an toàn? Hệ thống trí tuệ đơn lẻ càng gần gũi với AGI, quá trình ra quyết định của nó càng khó giải thích; trong khi đó, hệ thống đa tác nhân có thể phân tán rủi ro nhưng có thể bỏ lỡ thời điểm ra quyết định quan trọng do độ trễ trong giao tiếp.
Tiến bộ của Manus cũng phóng đại các rủi ro tiềm ẩn trong sự phát triển của AI. Chẳng hạn, trong các tình huống y tế, có thể cần truy cập dữ liệu gen nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể tiếp cận thông tin tài chính doanh nghiệp chưa công khai. Hơn nữa, còn có vấn đề thiên lệch thuật toán, chẳng hạn như đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Về việc kiểm tra hợp đồng pháp lý, có thể có tỷ lệ sai sót cao đối với các điều khoản của các ngành mới nổi. Nghiêm trọng hơn, hacker có thể can thiệp vào phán đoán của Manus trong các cuộc đàm phán bằng cách cài cắm các tín hiệu âm thanh cụ thể.
Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống AI càng thông minh thì bề mặt tấn công tiềm ẩn càng rộng.
Trong lĩnh vực Web3, an toàn luôn là một chủ đề được quan tâm. Lý thuyết "Tam giác không thể" do người sáng lập Ethereum Vitalik Buterin đề xuất (mạng lưới blockchain không thể đồng thời đạt được an toàn, phi tập trung và khả năng mở rộng) đã sinh ra nhiều công nghệ mã hóa:
Mô hình bảo mật không tin cậy: Nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.
Danh tính phi tập trung (DID): Cho phép các thực thể có được danh tính có thể xác minh mà không cần đăng ký tập trung.
Mã hóa hoàn toàn đồng nhất (FHE): cho phép thực hiện các phép toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư của dữ liệu.
Trong đó, mã hóa đồng nhất được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy tác dụng trong một số lĩnh vực sau:
Mặt dữ liệu: Tất cả thông tin do người dùng nhập vào được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.
Về mặt thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, ngay cả các nhà phát triển cũng không thể nhìn thấy quá trình ra quyết định của AI.
Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, ngay cả khi một nút đơn lẻ bị tấn công cũng sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.
Trong lĩnh vực an ninh Web3, đã có nhiều dự án được khám phá. Ví dụ, uPort được phát hành trên mạng chính Ethereum vào năm 2017, là một trong những dự án danh tính phi tập trung sớm nhất. NKN đã phát hành mạng chính dựa trên mô hình an ninh không tin cậy vào năm 2019. Còn trong lĩnh vực FHE, Mind Network là dự án đầu tiên ra mắt mạng chính và đã thiết lập quan hệ hợp tác với nhiều tổ chức nổi tiếng.
Với sự phát triển nhanh chóng của công nghệ AI, việc xây dựng một hệ thống phòng thủ an ninh mạnh mẽ ngày càng trở nên quan trọng. Mã hóa toàn đồng tính không chỉ có thể giải quyết những vấn đề an ninh hiện tại mà còn chuẩn bị cho sự xuất hiện của thời đại AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, FHE đã trở thành một công nghệ hỗ trợ không thể thiếu.