Miliardowy problem AI: kluczowe są dane wysokiej jakości, nie model | Opinia
AI może stać się kolejną branżą wartą biliony dolarów, ale po cichu zbliża się do ogromnego wąskiego gardła. Podczas gdy wszyscy ścigają się, aby budować większe i potężniejsze modele, nadciągający problem pozostaje w dużej mierze nierozwiązany: możemy wyczerpać dostępne dane treningowe już za kilka lat.
- AI kończy się paliwo: Zbiory danych treningowych rosną 3,7-krotnie rocznie i możemy wyczerpać światowe zasoby wysokiej jakości publicznych danych między 2026 a 2032 rokiem.
- Rynek oznaczania danych eksploduje z 3,7 mld USD (2024) do 17,1 mld USD (2030), podczas gdy dostęp do rzeczywistych danych ludzkich maleje z powodu zamkniętych ekosystemów i regulacji.
- Dane syntetyczne to za mało: Pętle sprzężenia zwrotnego i brak niuansów świata rzeczywistego sprawiają, że są ryzykownym substytutem dla chaotycznych, generowanych przez ludzi danych wejściowych.
- Władza przechodzi do posiadaczy danych: Wraz z komodyzacją modeli, prawdziwym wyróżnikiem będzie to, kto posiada i kontroluje unikalne, wysokiej jakości zbiory danych.
Zgodnie z danymi EPOCH AI, rozmiar zbiorów danych treningowych dla dużych modeli językowych rośnie od 2010 roku w tempie około 3,7 razy rocznie. Przy takim tempie możemy wyczerpać światowe zasoby wysokiej jakości, publicznych danych treningowych gdzieś między 2026 a 2032 rokiem.
Nawet zanim dotrzemy do tej granicy, koszt pozyskiwania i kuracji oznaczonych danych już gwałtownie rośnie. Rynek zbierania i oznaczania danych został wyceniony na 3,77 miliarda USD w 2024 roku, a prognozuje się, że wzrośnie do 17,10 miliarda USD do 2030 roku.
Taki gwałtowny wzrost sugeruje wyraźną szansę, ale także wyraźny punkt krytyczny. Modele AI są tak dobre, jak dane, na których są trenowane. Bez skalowalnego strumienia świeżych, zróżnicowanych i nieuprzedzonych zbiorów danych, wydajność tych modeli osiągnie plateau, a ich użyteczność zacznie się pogarszać.
Prawdziwe pytanie nie brzmi więc, kto zbuduje kolejny wielki model AI. Chodzi o to, kto posiada dane i skąd one będą pochodzić?
Problem danych AI jest większy, niż się wydaje
Przez ostatnią dekadę innowacje AI opierały się w dużej mierze na publicznie dostępnych zbiorach danych: Wikipedia, Common Crawl, Reddit, otwarte repozytoria kodu i inne. Ale to źródło szybko wysycha. W miarę jak firmy ograniczają dostęp do swoich danych, a problemy z prawami autorskimi się piętrzą, firmy AI są zmuszone do przemyślenia swojego podejścia. Rządy również wprowadzają regulacje ograniczające scrapowanie danych, a opinia publiczna coraz częściej sprzeciwia się trenowaniu modeli wartych miliardy dolarów na nieopłaconych treściach generowanych przez użytkowników.
Dane syntetyczne są proponowanym rozwiązaniem, ale to ryzykowny substytut. Modele trenowane na danych generowanych przez modele mogą prowadzić do pętli sprzężenia zwrotnego, halucynacji i pogorszenia wydajności z czasem. Jest też kwestia jakości: dane syntetyczne często nie mają chaotyczności i niuansów danych ze świata rzeczywistego, które są dokładnie tym, czego systemy AI potrzebują, by dobrze działać w praktyce.
Pozostają więc dane generowane przez ludzi jako złoty standard, a ich pozyskanie staje się coraz trudniejsze. Większość dużych platform zbierających dane ludzkie, takich jak Meta, Google i X (dawniej Twitter), to zamknięte ekosystemy. Dostęp jest ograniczony, zmonetyzowany lub całkowicie zakazany. Co gorsza, ich zbiory danych często są ukierunkowane na określone regiony, języki i demografie, co prowadzi do uprzedzonych modeli, które zawodzą w różnorodnych przypadkach użycia w świecie rzeczywistym.
Krótko mówiąc, branża AI wkrótce zderzy się z rzeczywistością, którą długo ignorowała: zbudowanie ogromnego LLM to tylko połowa sukcesu. Nakarmienie go to druga połowa.
Dlaczego to naprawdę ma znaczenie
Łańcuch wartości AI składa się z dwóch części: tworzenia modeli i pozyskiwania danych. Przez ostatnie pięć lat niemal cały kapitał i szum medialny koncentrowały się na tworzeniu modeli. Ale w miarę jak przesuwamy granice rozmiaru modeli, uwaga wreszcie przesuwa się na drugą połowę równania.
Jeśli modele stają się towarem, z alternatywami open-source, wersjami o mniejszym rozmiarze i projektami efektywnymi sprzętowo, to prawdziwym wyróżnikiem stają się dane. Unikalne, wysokiej jakości zbiory danych będą paliwem, które zdecyduje, które modele osiągną przewagę.
Wprowadzają one również nowe formy tworzenia wartości. Wkładnicy danych stają się interesariuszami. Twórcy mają dostęp do świeższych i bardziej dynamicznych danych. A przedsiębiorstwa mogą trenować modele lepiej dopasowane do swoich docelowych odbiorców.
Przyszłość AI należy do dostawców danych
Wchodzimy w nową erę AI, w której ten, kto kontroluje dane, posiada prawdziwą władzę. W miarę jak konkurencja o trenowanie lepszych, mądrzejszych modeli się zaostrza, największym ograniczeniem nie będzie moc obliczeniowa. Będzie nim pozyskiwanie danych, które są prawdziwe, użyteczne i legalne do wykorzystania.
Pytanie nie brzmi już, czy AI się rozwinie, ale kto zapewni temu rozwój paliwo. To nie będą tylko naukowcy zajmujący się danymi. To będą zarządcy danych, agregatorzy, wkładnicy i platformy, które ich łączą. Tam leży kolejna granica.
Więc następnym razem, gdy usłyszysz o nowej granicy w sztucznej inteligencji, nie pytaj, kto zbudował model. Zapytaj, kto go trenował i skąd pochodziły dane. Bo ostatecznie przyszłość AI to nie tylko architektura. To dane wejściowe.
Max Li jest założycielem i CEO OORT, chmury danych dla zdecentralizowanego AI. Dr Li jest profesorem, doświadczonym inżynierem i wynalazcą z ponad 200 patentami. Jego doświadczenie obejmuje prace nad systemami 4G LTE i 5G w Qualcomm Research oraz wkład naukowy w teorię informacji, uczenie maszynowe i technologię blockchain. Jest autorem książki zatytułowanej “Reinforcement Learning for Cyber-physical Systems”, wydanej przez Taylor & Francis CRC Press.
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
FedEx (FDX.US) po podziale działalności cargo przedstawia pierwszy raport: przychody i zyski przewyższają oczekiwania, podwyższa całoroczne prognozy i ogłasza nowego CFO
Dzięki wzrostowi cen jednostkowych przesyłek, zwiększeniu wolumenu działalności oraz kontynuacji działań mających na celu strukturalne obniżenie kosztów, przychody i zyski FedEx w tym kwartale przekroczyły oczekiwania Wall Street, a firma podniosła prognozę całorocznego zysku na rok 2026.
Amerykańskie zapasy ropy naftowej spadają czwarty tydzień z rzędu, eksport gwałtownie rośnie, a zapasy destylatów maleją bardziej niż oczekiwano
Dane EIA USA pokazują, że w tygodniu kończącym się 23 października zapasy ropy naftowej zmniejszyły się o 1,9 mln baryłek, podczas gdy rynek oczekiwał wzrostu o 15 tys. baryłek—spadek o 100 tys. baryłek; eksport wzrósł o 1,4 mln baryłek dziennie. Zapasy olejów destylowanych spadły o 1,5 mln baryłek, przekraczając prognozę rynkową wynoszącą 900 tys. baryłek, co oznacza, że ceny diesla w krótkim czasie trudno będą skutecznie złagodzone. Zapasy benzyny niespodziewanie wzrosły o 3,9 mln baryłek, podczas gdy rynek spodziewał się spadku od 700 tys. do 900 tys. baryłek. Wraz z narastaniem napięć na Bliskim Wschodzie, WTI wzrosła w środę chwilowo o 3,6%, po czym nieco spadła.
Fed ogłasza utrzymanie stóp procentowych bez zmian, Waller wysyła ostrożny sygnał, rynek nadal obstawia podwyżkę stóp w grudniu
Rezerwa Federalna ogłosiła w środę utrzymanie stóp procentowych na niezmienionym poziomie, a docelowy przedział dla stopy funduszy federalnych pozostaje w zakresie od 3,75% do 4%, co jest zgodne z powszechnymi oczekiwaniami rynkowymi.
Globalna fala finansowania AI ogarnia światowe rynki obligacji! Tegoroczna emisja osiągnęła rekordowe 6,61 biliona dolarów, giganty technologiczne stały się główną siłą pożyczającą.
Pod wpływem gorączki inwestycyjnej w infrastrukturę sztucznej inteligencji, globalna emisja obligacji osiągnęła rekordowy poziom.
Ceny krypto
Więcej
