Buterin encourage Info Finance à stopper les exploits dans la gouvernance de l’IA
- Vitalik avertit que la gouvernance naïve de l’IA est vulnérable à la manipulation et aux exploits.
- L’info finance crée une diversité de modèles et des corrections rapides, rendant la gouvernance de l’IA plus sûre.
- Les marchés de prédiction et les contrôles ponctuels contribuent à sécuriser la prise de décision et le financement de l’IA.
Le cofondateur d’Ethereum, Vitalik Buterin, a averti que les modèles de gouvernance naïfs de l’IA présentent de sérieux risques et a mis en garde contre les cadres qui reposent sur l’IA pour le financement ou la prise de décision, car ils restent vulnérables à la manipulation et aux exploits. Selon lui, de tels systèmes permettent à des acteurs malveillants de détourner des ressources ; cependant, il préconise une approche appelée « info finance », conçue pour instaurer la responsabilité et prévenir les abus grâce aux marchés, à la supervision humaine et aux contrôles.
Les arguments contre la gouvernance naïve de l’IA
Buterin a souligné que la gouvernance naïve de l’IA est risquée et a ajouté que si l’IA est utilisée pour allouer des fonds, les gens pourraient la manipuler avec des instructions de leur choix et obtenir un surplus d’argent. Il a également expliqué que si les modèles fonctionnaient sans aucune restriction ou directive, ils pourraient être mal utilisés, encourageant ainsi les hackers à utiliser des instructions pour tromper l’IA et libérer des ressources de manière incorrecte.
De telles vulnérabilités placent l’IA dans une boucle potentiellement dangereuse. De plus, Buterin a révélé des faiblesses systémiques qui, si elles ne sont pas contrôlées, pourraient être exploitées. Les attaques invisibles et les injections de prompts sont des exemples de la facilité avec laquelle les attaquants peuvent en profiter.
L’info finance comme alternative
Buterin opte pour l’information finance à la place de la gouvernance naïve, la décrivant comme une approche de « conception institutionnelle », mêlant la concurrence du marché ouvert à la vérification humaine. Il a déclaré :
En alternative, je soutiens l’approche info finance, où vous avez un marché ouvert où chacun peut contribuer avec ses modèles, qui sont soumis à un mécanisme de contrôle ponctuel pouvant être déclenché par n’importe qui et évalué par un jury humain.
Il a précisé que l’Info Finance permet à des contributeurs externes d’intégrer des modèles de langage de grande taille (LLM) sans coder en dur un seul système. Cela permettra une diversité de modèles, réduisant ainsi le risque d’échec généralisé. Cela crée également des incitations pour les développeurs et les spéculateurs à surveiller de près les défauts et à agir rapidement en cas de problème.
Un mécanisme proposé implique des marchés de prédiction ou des marchés de décision. Plusieurs modèles seraient en concurrence, et les participants pourraient miser sur les résultats, signalant ainsi quels modèles semblent les plus fiables. Des jurys ou auditeurs humains effectueraient périodiquement des contrôles ponctuels des résultats, en particulier dans les cas à fort enjeu.
À lire aussi : Les trésoreries ETH grimpent à 12 milliards de dollars alors que Vitalik met en garde contre les risques d’effet de levier
Implications pour la crypto et les marchés
L’info finance repose sur une responsabilité à plusieurs niveaux, et elle se distingue par la concurrence ouverte, qui permet de contester ou de remplacer les modèles défaillants. Une supervision humaine est ajoutée via des jurys et des audits. Les incitations économiques empêchent la manipulation, tandis que la transparence rend les comportements malveillants visibles.
En liant la gouvernance de l’IA à la blockchain et au trading, Buterin suggère que les failles de l’IA centralisée pourraient accroître l’intérêt pour des solutions décentralisées, principalement construites sur Ethereum. De plus, des tokens comme RNDR de Render Network et GRT de The Graph fournissent l’infrastructure pour les calculs IA, en tirant ainsi profit du développement. Par ailleurs, les traders pourraient également utiliser ETH et ces tokens pour l’arbitrage en période de volatilité du marché.
Les données on-chain indiquent qu’il y a davantage de transactions ETH associées à des smart contracts liés à l’IA, et les problèmes de gouvernance de l’IA peuvent aussi impacter les actions technologiques, avec des entreprises comme NVIDIA et Microsoft impliquées dans les investissements IA. Globalement, Buterin a souligné que l’Info Finance permet des corrections plus rapides, remplaçant ainsi les modèles défaillants et sanctionnant les fauteurs de troubles. Il a également ajouté que les contrôles par jury et les contrôles ponctuels empêcheront la propagation des exploitations.
L’article Buterin Pushes Info Finance to Stop Exploits in AI Governance est apparu en premier sur Cryptotale.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Le rapport du troisième trimestre approche, Samsung Electronics et SK Hynix face à des "attentes très élevées", un test pour le "commerce mondial de l’IA".
La vague de l'IA stimule un "super cycle" mondial des semi-conducteurs. Samsung et SK Hynix pourraient voir leur bénéfice opérationnel combiné au troisième trimestre approcher le record historique de 190 000 milliards de wons. La bataille pour le HBM4 s’intensifie, tandis que l’IA agent augmente la demande en bande passante mémoire par dix ; la mémoire devient le véritable "sang" des centres de données AI. Deux rapports financiers imminents détermineront si cette prospérité n’est qu’un phénomène passager ou une transformation structurelle qui redéfinit l'infrastructure technologique.
Directeur de Meta AI, Alexandr Wang : Pourquoi je veux créer Muse
Muse a atteint 2,8 millions de téléchargements en seulement 12 jours, dépassant les performances de ChatGPT sur la même période et établissant un record de 264 000 téléchargements quotidiens aux États-Unis — la capitalisation boursière de Meta a ainsi bondi de 234 milliards de dollars. Derrière ce succès se trouvent la lettre ouverte du Chief AI Officer Alexandr Wang sur le "désir humain" et l’acquisition de 14,3 milliards de dollars opérée par Mark Zuckerberg, autrefois qualifiée de "folie" : aujourd’hui, cela apparaît sans doute comme l’une des meilleures affaires en matière de talents de l’histoire de la Silicon Valley.
UBS : maintient la note « neutre » sur Tesla (TSLA.US), objectif de cours à 385 dollars, la logique de fixation du prix des actions dominée par le récit de l’IA
UBS prévoit que les livraisons mondiales de Tesla au troisième trimestre 2026 (3T26) seront d'environ 470 000 véhicules, soit une baisse de 5 % en glissement annuel et de 1 % en glissement trimestriel.
La vague de l'IA résiste fermement aux « 5 % de rendement des bons du Trésor américain » ! Le Nasdaq atteint un nouveau sommet, renforçant le modèle « 80/20 », tandis que Wall Street réévalue la proportion entre actions et obligations.
Le rendement des bons du Trésor américain à 30 ans a atteint environ 5,53 %, son plus haut niveau depuis 2004, tandis que le Brent reste au-dessus de 100 dollars par baril. Les actifs risqués résistent de nouveau à la pression, reflétant la confiance des investisseurs dans le fait que la commercialisation des applications d’IA et la croissance des bénéfices des entreprises peuvent, dans une certaine mesure, compenser l’impact de la hausse des coûts de financement et du taux d’actualisation.
Prix des cryptos
Plus
