Sécurité de l'IA problème devient de plus en plus évident, le chiffrement homomorphe complet devient la solution
Récemment, un modèle d'IA nommé Manus a réalisé des performances révolutionnaires dans le test de référence GAIA, surpassant les modèles de langage de grande taille de même niveau. Manus a démontré sa capacité à accomplir de manière autonome des tâches complexes, telles que des négociations commerciales multinationales, impliquant l'analyse de contrats, la planification stratégique et l'élaboration de propositions. Comparé aux systèmes traditionnels, Manus présente des avantages évidents en matière de décomposition dynamique des objectifs, de raisonnement multimodal et d'apprentissage renforcé de la mémoire. Il peut décomposer de grandes tâches en centaines de sous-tâches exécutables, tout en traitant plusieurs types de données, et en améliorant continuellement l'efficacité des décisions grâce à l'apprentissage par renforcement, réduisant ainsi le taux d'erreur.
L'émergence de Manus a de nouveau suscité des discussions au sein de l'industrie sur les voies de développement de l'IA : l'avenir est-il vers l'intelligence artificielle générale (AGI) ou les systèmes multi-agents (MAS) ? Cela reflète en réalité le conflit central sur la façon de trouver un équilibre entre l'efficacité et la sécurité dans le développement de l'IA. Plus l'intelligence unitaire se rapproche de l'AGI, plus son processus de prise de décision devient opaque, augmentant ainsi les risques ; tandis que la collaboration entre plusieurs agents peut disperser les risques, mais peut également manquer des moments cruciaux de prise de décision en raison des délais de communication.
Avec l'intelligence croissante des systèmes d'IA, leurs risques potentiels en matière de sécurité s'élargissent également. Par exemple, dans le domaine médical, l'IA doit accéder aux données génétiques sensibles des patients ; dans les négociations financières, des informations financières d'entreprise non publiées peuvent être impliquées. De plus, les systèmes d'IA peuvent également présenter des biais algorithmiques, comme faire des propositions salariales injustes à certains groupes lors du processus de recrutement. Plus sérieusement, les systèmes d'IA peuvent devenir des cibles pour des attaques de hackers, qui pourraient implanter des signaux spécifiques pour influencer leur jugement.
Pour faire face à ces défis, l'industrie a proposé diverses stratégies de sécurité, parmi lesquelles le chiffrement homomorphe complet (Fully Homomorphic Encryption, FHE) est considéré comme la technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Le FHE permet de calculer des données en état de chiffrement, ce qui signifie même que le système d'IA lui-même ne peut pas déchiffrer les données originales.
Au niveau des données, le FHE garantit que toutes les informations saisies par l'utilisateur (y compris les caractéristiques biologiques, la voix, etc.) sont traitées en état de chiffrement, empêchant efficacement toute fuite d'informations. Au niveau des algorithmes, le FHE met en œuvre "l'entraînement de modèles chiffrés", de sorte que même les développeurs ne peuvent pas espionner le processus décisionnel de l'IA. En matière de collaboration entre agents multiples, l'utilisation de techniques de chiffrement par seuil peut garantir que même si un nœud unique est compromis, cela ne conduit pas à une fuite de données globale.
Bien que les technologies de sécurité Web3 n'aient pas de lien direct avec les utilisateurs ordinaires, elles ont un impact profond sur tout le monde. Dans ce monde numérique plein de défis, il sera difficile pour les utilisateurs de protéger leurs droits sans prendre des mesures de sécurité actives.
Actuellement, plusieurs projets explorent le domaine de la sécurité Web3. Par exemple, un projet a été le premier à mettre en œuvre la technologie FHE sur le réseau principal et a collaboré avec plusieurs grandes entreprises technologiques. Cependant, les projets de sécurité ne sont souvent pas prisés par les spéculateurs, et il reste à voir si cela pourra changer et si un leader émergera dans le domaine de la sécurité.
Avec les technologies de l'IA s'approchant constamment du niveau d'intelligence humaine, les systèmes de défense non traditionnels deviennent de plus en plus importants. Le chiffrement homomorphe complet non seulement résout les problèmes de sécurité actuels, mais jette également les bases pour l'ère de l'IA forte à venir. Sur le chemin de l'AGI, le chiffrement homomorphe complet n'est plus une option, mais une condition nécessaire pour garantir le développement sécurisé de l'IA.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
13 J'aime
Récompense
13
6
Partager
Commentaire
0/400
LuckyBlindCat
· 07-29 21:06
Ce chiffrement est-il fiable ? Je n'ose pas y croire.
Voir l'originalRépondre0
HodlKumamon
· 07-29 21:05
J'ai compris, meow~ La sécurité des données par chiffrement est le plus grand bouclier du futur desu.
Voir l'originalRépondre0
ZeroRushCaptain
· 07-29 20:56
Acheter le creux et devenir un expert des distributeurs automatiques, vivre toujours dans l'illusion du bull run.
Voir l'originalRépondre0
NftPhilanthropist
· 07-29 20:50
yo fhe est comme le nouveau proof-of-impact pour la sécurité de l'IA fr
Voir l'originalRépondre0
ForkYouPayMe
· 07-29 20:45
Encore un produit à la mode des bulles.
Voir l'originalRépondre0
OnChainDetective
· 07-29 20:42
les schémas suggèrent une autre "solution" trop médiatisée, à vrai dire... j'ai déjà vu ce film avant
chiffrement homomorphe complet FHE : nouvelle forteresse de la Sécurité de l'IA
Sécurité de l'IA problème devient de plus en plus évident, le chiffrement homomorphe complet devient la solution
Récemment, un modèle d'IA nommé Manus a réalisé des performances révolutionnaires dans le test de référence GAIA, surpassant les modèles de langage de grande taille de même niveau. Manus a démontré sa capacité à accomplir de manière autonome des tâches complexes, telles que des négociations commerciales multinationales, impliquant l'analyse de contrats, la planification stratégique et l'élaboration de propositions. Comparé aux systèmes traditionnels, Manus présente des avantages évidents en matière de décomposition dynamique des objectifs, de raisonnement multimodal et d'apprentissage renforcé de la mémoire. Il peut décomposer de grandes tâches en centaines de sous-tâches exécutables, tout en traitant plusieurs types de données, et en améliorant continuellement l'efficacité des décisions grâce à l'apprentissage par renforcement, réduisant ainsi le taux d'erreur.
L'émergence de Manus a de nouveau suscité des discussions au sein de l'industrie sur les voies de développement de l'IA : l'avenir est-il vers l'intelligence artificielle générale (AGI) ou les systèmes multi-agents (MAS) ? Cela reflète en réalité le conflit central sur la façon de trouver un équilibre entre l'efficacité et la sécurité dans le développement de l'IA. Plus l'intelligence unitaire se rapproche de l'AGI, plus son processus de prise de décision devient opaque, augmentant ainsi les risques ; tandis que la collaboration entre plusieurs agents peut disperser les risques, mais peut également manquer des moments cruciaux de prise de décision en raison des délais de communication.
Avec l'intelligence croissante des systèmes d'IA, leurs risques potentiels en matière de sécurité s'élargissent également. Par exemple, dans le domaine médical, l'IA doit accéder aux données génétiques sensibles des patients ; dans les négociations financières, des informations financières d'entreprise non publiées peuvent être impliquées. De plus, les systèmes d'IA peuvent également présenter des biais algorithmiques, comme faire des propositions salariales injustes à certains groupes lors du processus de recrutement. Plus sérieusement, les systèmes d'IA peuvent devenir des cibles pour des attaques de hackers, qui pourraient implanter des signaux spécifiques pour influencer leur jugement.
Pour faire face à ces défis, l'industrie a proposé diverses stratégies de sécurité, parmi lesquelles le chiffrement homomorphe complet (Fully Homomorphic Encryption, FHE) est considéré comme la technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Le FHE permet de calculer des données en état de chiffrement, ce qui signifie même que le système d'IA lui-même ne peut pas déchiffrer les données originales.
Au niveau des données, le FHE garantit que toutes les informations saisies par l'utilisateur (y compris les caractéristiques biologiques, la voix, etc.) sont traitées en état de chiffrement, empêchant efficacement toute fuite d'informations. Au niveau des algorithmes, le FHE met en œuvre "l'entraînement de modèles chiffrés", de sorte que même les développeurs ne peuvent pas espionner le processus décisionnel de l'IA. En matière de collaboration entre agents multiples, l'utilisation de techniques de chiffrement par seuil peut garantir que même si un nœud unique est compromis, cela ne conduit pas à une fuite de données globale.
Bien que les technologies de sécurité Web3 n'aient pas de lien direct avec les utilisateurs ordinaires, elles ont un impact profond sur tout le monde. Dans ce monde numérique plein de défis, il sera difficile pour les utilisateurs de protéger leurs droits sans prendre des mesures de sécurité actives.
Actuellement, plusieurs projets explorent le domaine de la sécurité Web3. Par exemple, un projet a été le premier à mettre en œuvre la technologie FHE sur le réseau principal et a collaboré avec plusieurs grandes entreprises technologiques. Cependant, les projets de sécurité ne sont souvent pas prisés par les spéculateurs, et il reste à voir si cela pourra changer et si un leader émergera dans le domaine de la sécurité.
Avec les technologies de l'IA s'approchant constamment du niveau d'intelligence humaine, les systèmes de défense non traditionnels deviennent de plus en plus importants. Le chiffrement homomorphe complet non seulement résout les problèmes de sécurité actuels, mais jette également les bases pour l'ère de l'IA forte à venir. Sur le chemin de l'AGI, le chiffrement homomorphe complet n'est plus une option, mais une condition nécessaire pour garantir le développement sécurisé de l'IA.