Buterin drängt Info Finance, Ausnutzungen in der KI-Governance zu stoppen
- Vitalik warnt davor, dass naive KI-Governance anfällig für Manipulationen und Ausnutzung ist.
- Info Finance schafft Modellvielfalt und schnelle Korrekturen, wodurch die KI-Governance sicherer wird.
- Prognosemärkte und Stichprobenprüfungen helfen, KI-Entscheidungen und -Finanzierungen abzusichern.
Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass naive Modelle der KI-Governance ernsthafte Risiken bergen, und betont, dass Rahmenwerke, die sich auf KI für Finanzierungen oder Entscheidungsfindungen verlassen, weiterhin anfällig für Manipulationen und Ausnutzung sind. Seiner Ansicht nach ermöglichen solche Systeme böswilligen Akteuren, Ressourcen umzuleiten. Er plädiert jedoch für einen Ansatz namens „Info Finance“, der darauf abzielt, durch Märkte, menschliche Aufsicht und Kontrollen Verantwortlichkeit zu schaffen und Missbrauch zu verhindern.
Das Problem mit naiver KI-Governance
Buterin betonte, dass naive KI-Governance riskant ist und fügte hinzu, dass, wenn KI zur Mittelvergabe eingesetzt wird, Menschen sie mit ihren eigenen Prompts manipulieren und überschüssiges Geld erhalten könnten. Er erläuterte weiter, dass, wenn Modelle ohne Einschränkungen oder Richtlinien arbeiten, sie missbraucht werden könnten, was Hacker dazu ermutigt, Prompts zu verwenden und die KI dazu zu bringen, falsche Ressourcen freizugeben.
Solche Schwachstellen bringen KI in eine potenziell gefährliche Schleife. Darüber hinaus enthüllte Buterin systemische Schwächen, die, wenn sie nicht überprüft werden, manipuliert werden könnten. Unsichtbare Angriffe und Prompt-Injektionen sind Beispiele dafür, wie Angreifer leicht Vorteile ziehen können.
Info Finance als Alternative
Buterin entscheidet sich für Information Finance anstelle naiver Governance und beschreibt es als einen Ansatz des „Institutionendesigns“, der offenen Marktwettbewerb mit menschlicher Überprüfung verbindet. Er sagte:
Als Alternative unterstütze ich den Info-Finance-Ansatz, bei dem es einen offenen Markt gibt, auf dem jeder seine Modelle einbringen kann, die einem Stichprobenmechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann.
Er erläuterte, dass Info Finance es externen Mitwirkenden ermöglicht, große Sprachmodelle (LLMs) zu integrieren, ohne ein einziges System fest zu programmieren. Dies ermöglicht Modellvielfalt und verringert so die Wahrscheinlichkeit eines weitreichenden Ausfalls. Es schafft auch Anreize für Entwickler und Spekulanten, Schwachstellen genau zu beobachten und bei Problemen schnell zu handeln.
Ein vorgeschlagener Mechanismus beinhaltet Prognosemärkte oder Entscheidungsbörsen. Mehrere Modelle würden konkurrieren, und Teilnehmer könnten auf Ergebnisse setzen, um anzuzeigen, welche Modelle am zuverlässigsten erscheinen. Menschliche Jurys oder Prüfer würden die Ergebnisse regelmäßig stichprobenartig überprüfen, insbesondere in Fällen mit hohen Einsätzen.
Verwandt: ETH-Treasuries steigen auf 12 Milliarden Dollar, während Vitalik vor Leverage-Risiken warnt
Auswirkungen auf Krypto und Märkte
Info Finance setzt auf gestufte Verantwortlichkeit und ist besonders im offenen Wettbewerb bemerkenswert, der es ermöglicht, fehlerhafte Modelle herauszufordern oder zu ersetzen. Menschliche Aufsicht wird durch Jurys und Audits ergänzt. Wirtschaftliche Anreize verhindern Manipulationen, während Transparenz böswilliges Verhalten sichtbar macht.
Indem Buterin die KI-Governance mit Blockchain und Handel verknüpft, deutet er an, dass Schwächen in zentralisierten KI-Systemen das Interesse an dezentralen Lösungen, die meist auf Ethereum basieren, steigern könnten. Darüber hinaus bieten Token wie Render Network’s RNDR und The Graph’s GRT Infrastruktur für KI-Berechnungen und profitieren somit von der Entwicklung. Händler könnten zudem ETH und die Token für Arbitrage bei Marktschwankungen nutzen.
On-Chain-Daten zeigen, dass es mehr ETH-Transaktionen im Zusammenhang mit KI-bezogenen Smart Contracts gibt und dass KI-Governance-Probleme auch Technologiewerte beeinflussen können, wobei Unternehmen wie NVIDIA und Microsoft in KI-Investitionen involviert sind. Insgesamt wies Buterin darauf hin, dass Info Finance schnellere Korrekturen ermöglicht, fehlerhafte Modelle ersetzt und Fehlverhalten bestraft. Er fügte hinzu, dass Jury- und Stichprobenprüfungen die Ausbreitung von Ausnutzung verhindern werden.
Der Beitrag „Buterin Pushes Info Finance to Stop Exploits in AI Governance“ erschien zuerst auf Cryptotale.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Boeing setzt mit "Assets-für-Anteile"-Deal auf Archer (ACHR.US): Die "Low-Altitude Economy" bewegt sich vom Geldverbrennen zur kommerziellen Umsetzung
Boeing wird mehrere seiner Geschäftsbereiche an Archer Aviation verkaufen, um sich auf seine Kernbereiche im zivilen und militärischen Sektor zu konzentrieren. Archer übernimmt die Abteilungen Wisk, SkyGrid und Insitu von Boeing, die für die Entwicklung und den Bau von unbemannten Flugzeugen und Systemen für das Luftverkehrsmanagement zuständig sind.
Die Schattenseiten der Billionen-Investitionen in AI: Die Hälfte des Gewinnwachstums im S&P 500 basiert auf Verschuldung, und das kluge Geld beginnt bereits, sich zurückzuziehen.
Ein Bericht von Goldman Sachs zeigt, dass etwa die Hälfte des Gewinnwachstums im S&P 500 von schuldengetriebenen KI-Investitionen abhängt. Es wird erwartet, dass große Technologieunternehmen bis 2027 eine Finanzierungslücke von 400 Milliarden US-Dollar mit neuen Schulden schließen müssen. Trotz steigender Aktienmärkte verkaufen Hedgefonds und andere „smarte Investoren“ in Rekordhöhe Nasdaq-Futures und drehen ins Bärische. Zusammen mit einem möglichen Stillstand beim Beschäftigungswachstum deutet dies auf eine Entkopplung der Kapitalmärkte von der Realwirtschaft hinter dem aktuellen Boom hin.
Intel (INTC.US) nutzt den AI-Boom und gibt 15 Milliarden US-Dollar an Stammaktien aus, um auf den „CPU-Nachfrageboom + Chipfertigung + fortschrittliche Verpackung“ zu setzen und die Wachstumskurve neu zu gestalten.
Intel gab bekannt, dass das Unternehmen Stammaktien im Wert von 15 Milliarden US-Dollar ausgeben wird, um das gestiegene Interesse des Marktes an seinen Geschäftsaussichten während des Booms von KI-Rechenzentren zu nutzen.
Barrick Mining (B.US) Q2 Nettogewinn steigt um 50 % – 1,95 Milliarden US-Dollar Einigung beseitigt IPO-Hürden, Gold-Rallye eröffnet weiteres Gewinnwachstumsfenster
Barrick hat den Streit mit Newmont beigelegt und damit den Weg für den Börsengang frei gemacht. Newmont wird Barrick 1,95 Milliarden US-Dollar zahlen. Beide Unternehmen bringen zuvor ausgeschlossene Vermögenswerte in das Joint Venture ein, darunter das Fourmile-Projekt von Barrick sowie die Fiberline- und Mike-Entwicklungsprojekte von Newmont.
Krypto-Preise
Mehr
