Rząd USA wyłączył najlepszy model AI. Trzy dni po premierze.

Rząd USA wyłączył najlepszy model AI świata. Trzy dni po premierze. A po miesiącu go przywrócił, ale nie dla wszystkich.

Kiedy pierwszy raz o tym przeczytałem, pomyślałem, że ktoś przesadził z nagłówkiem. Potem sprawdziłem daty i treść pism, i okazało się, że to żadna przesada. To się naprawdę wydarzyło, w ciągu trzech tygodni, na oczach całej branży. Rozłożę Ci całą historię po kolei, a na końcu powiem wprost, co ja o tym myślę i dlaczego uważam, że każdy, kto buduje cokolwiek na AI, powinien potraktować to jak ostrzeżenie, a nie ciekawostkę do porannej kawy.

Jak to się zaczęło

12 czerwca Anthropic dostaje pismo z Departamentu Handlu USA. Treść, sprowadzona do jednego zdania: odetnijcie dostęp do modeli Fable 5 i Mythos 5 każdemu, kto nie jest Amerykaninem. Nie za tydzień, nie po konsultacjach, nie po okresie przejściowym. Tego samego wieczoru modele znikają dla reszty świata.

Powód nie był błahy i to trzeba uczciwie powiedzieć. Ktoś pokazał, że model potrafi sam znaleźć lukę w cudzym oprogramowaniu i od razu napisać działający kod, który tę lukę wykorzystuje. Nie chodziło o to, że model teoretyzuje, jak mógłby wyglądać atak. Chodziło o gotowe narzędzie do cyberataku, generowane na zawołanie, przez kogoś, kto niekoniecznie umie programować. I to właśnie ta dostępność, a nie sama techniczna możliwość, przestraszyła ludzi w Waszyngtonie. Bo jedno to wiedzieć, że coś jest możliwe. Drugie to dać ten przycisk każdemu.

AI w tej samej szufladzie co broń

Tu historia przestaje być techniczną anegdotą i robi się poważna. USA nie potraktowało tego jak zwykłego buga, który się łata i idzie dalej. Wpisało Fable 5 na listę kontroli eksportu, czyli ten sam formalny reżim, którym objęte są broń, technologie wojskowe i sprzęt podwójnego zastosowania.

Zatrzymaj się na chwilę przy tym obrazku, bo warto go sobie dobrze wyobrazić. Model, którego setki milionów ludzi używa do pisania maili, streszczania dokumentów i robienia grafik na social media, przez moment leżał w tej samej prawnej szufladzie co rakieta. To najlepiej pokazuje, jak bardzo rozjechały się dwa sposoby patrzenia na to samo narzędzie. Dla przeciętnego użytkownika to wygodny asystent, który oszczędza pół godziny dziennie. Dla państwa to infrastruktura o znaczeniu strategicznym, którą trzeba kontrolować tak samo twardo jak każdą inną technologię, która może komuś zaszkodzić.

Firma kontra państwo

Anthropic się nie zgodził i, co ciekawe, nie schował tego pod dywan. Napisali wprost:

Wykrycie wąskiej furtki nie może być powodem wyłączania modelu, którego używają setki milionów ludzi.

Zobacz, jaki to jest układ sił. Z jednej strony prywatna firma, z drugiej rząd największej gospodarki świata. A spór nie dotyczy jakiegoś abstrakcyjnego przepisu, tylko dostępu do produktu, który ta firma sama zbudowała i który z dnia na dzień przestał być do końca jej. To nowy rodzaj konfliktu, jakiego dziesięć lat temu po prostu nie było. Żaden software house nie kłócił się z Departamentem Handlu o to, komu wolno używać jego aplikacji. Dziś takie rozmowy się odbywają, a my dopiero uczymy się, że to w ogóle możliwe.

Zwrot po trzech tygodniach

Po prawie trzech tygodniach przyszedł zwrot. 30 czerwca USA zdejmuje blokadę. 1 lipca Fable 5 wraca na cały świat, tym razem z dołożonym filtrem na exploity, czyli zabezpieczeniem, które ma utrudnić powtórkę z rozrywki.

Ale to nie jest happy end dla wszystkich po równo, i to jest część, którą łatwo przeoczyć w ogólnej uldze, że model wrócił. Mocniejszy Mythos 5 wrócił tylko dla garstki zaufanych firm w USA. Reszta świata, łącznie z nami, dostała wersję słabszą. I to jest moim zdaniem najważniejszy szczegół całej tej historii, bo pokazuje kierunek, w którym to zmierza. Najlepsze modele nie muszą być dostępne dla każdego. Mogą być, ale nie muszą, a decyzja o tym nie należy ani do Ciebie, ani nawet w pełni do firmy, która te modele stworzyła.

To nie jest afera o jeden model

Dla większości ludzi AI to wciąż zabawka. Coś, co napisze śmieszny wierszyk, poprawi maila albo wygeneruje obrazek na urodziny znajomego. Dla rządu USA to broń, którą trzeba trzymać pod kluczem. I ta przepaść między jednym a drugim sposobem patrzenia jest dla mnie ciekawsza niż sama blokada.

Bo ona nie zniknie, a wręcz będzie się pogłębiać. Im lepsze będą modele, tym mocniej państwa będą je traktować jak zasób strategiczny, a nie jak kolejną aplikację w chmurze. To znaczy, że tego typu decyzje, blokady, ograniczenia i wersje „dla wybranych” będą się powtarzać. Ta historia to nie jednorazowy wyjątek, który za rok wszyscy zapomną. To zapowiedź nowej normy, do której lepiej przyzwyczaić się teraz, na spokojnie, niż odkrywać ją w panice, kiedy dotknie akurat Twojego narzędzia.

Co ja o tym myślę

Powiem wprost, bo pewnie i tak byś o to zapytał. Sama obawa była według mnie uzasadniona. Model, który autonomicznie znajduje i wykorzystuje luki w oprogramowaniu, to realne ryzyko, a nie teatr polityczny. Gdyby ktoś odpalił coś takiego na masową skalę, skutki byłyby prawdziwe. Ale sposób wykonania był przesadzony. Odcięcie całego świata od narzędzia, które w podobnej formie istnieje też u konkurencji, nie sprawia, że zagrożenie znika. Sprawia tylko, że korzystają z niego ci, którzy i tak mieli inne kanały, a zwykli ludzie i uczciwe firmy zostają z gorszą wersją. To trochę jak zamknięcie jednego sklepu z nożami w mieście, w którym nóż leży w każdej kuchni.

Druga rzecz jest z mojej perspektywy dużo ważniejsza. Ja buduję firmę na AI. Nie jako dodatek do reszty, tylko jako trzon codziennej roboty. I ta historia była dla mnie zimnym prysznicem, który przypomniał mi zasadę łatwą do zapomnienia, kiedy wszystko działa gładko: nie jestem właścicielem narzędzi, których używam. Jestem najwyżej najemcą. Wystarczyła jedna decyzja polityczna, żeby z dnia na dzień odciąć dostęp setkom milionów ludzi, bez ostrzeżenia i bez żadnego wpływu z ich strony. Nie było awarii, nie było niczyjej winy, nikt nie złamał regulaminu. Po prostu ktoś wyżej podjął decyzję i tyle.

Dlatego u siebie nie stawiam wszystkiego na jednego dostawcę. Układam procesy tak, żeby dało się je przełożyć na inny model, kiedy zajdzie potrzeba. Trzymam własny kontekst i własne dane u siebie, a nie wyłącznie w cudzym narzędziu, do którego dostęp mogę stracić z powodu, na który nie mam wpływu. To nie paranoja, tylko zwykłe zarządzanie ryzykiem, takie samo, jakie stosujesz, kiedy nie trzymasz wszystkich pieniędzy w jednym banku ani całej sprzedaży na jednym kanale. Plan B robi się wcześniej, na chłodno, a nie w dniu, w którym coś pada.

I jest jeszcze trzecia rzecz, o której nie chcę, żebyś zapomniał, bo w tym całym zamieszaniu z regulacjami łatwo ją przegapić. Zwróć uwagę na samo tempo. Model był tak dobry, że przestraszył się go rząd największej gospodarki świata. Trzy dni po premierze. Nie po latach ostrożnych testów, nie po powolnym, kontrolowanym wdrożeniu. Trzy dni. To mówi o kierunku i prędkości tej technologii więcej niż setka konferencyjnych slajdów o „rewolucji AI”. Jeśli coś potrafi w trzy dni wywołać reakcję na poziomie kontroli eksportu broni, to warto zadać sobie pytanie, gdzie będziemy za rok.

Przesada ze strony USA czy słuszny ruch? Ja mam swoje zdanie, ale ciekaw jestem, jak to widzisz Ty.