Az Anthropic hat független kutatónak olyan hozzáférést adott, mintha a saját munkatársai lennének, és vállalta, hogy nem akadályozza meg, amit róla írnak. Közben a Replit (népszerű online programozó felület) vezetője bejelentette, hogy náluk mostantól az OpenAI modellje az alapértelmezett, nem a Claude.
🔍 AZ ANTHROPIC BELÜLRŐL ENGEDI ELLENŐRIZNI MAGÁT
Október 15-én a TechCrunch beszámolt róla, hogy az Anthropic (a Claude készítője) a METR nevű nonprofit szervezet hat kutatójának „munkatársi szintű” hozzáférést adott. A METR független csoport, amely a legerősebb MI-modelleket teszteli: azt vizsgálja, mennyire veszélyesek, és mennyire tartja kézben őket a készítőjük.
Mit jelent ez a gyakorlatban? A cikk szerint a hat kutató:
- Anthropic-laptopot és irodát kap, és hozzáfér a belső eszközökhöz, nagyjából ugyanazokhoz, amelyekkel a cég saját kockázatelemző csapatai dolgoznak.
- Kérdezhet a munkatársaktól, és az Anthropic kifejezetten arra biztatja a dolgozóit, hogy osszák meg velük az információt.
- Szabadon publikálhat. A METR saját jelentést írhat a cég kockázatairól, incidenseiről (komolyabb hibáiról, váratlan eseteiről) és működéséről, és ezt az Anthropic nem tilthatja le.
Egyetlen korlát van: az Anthropic három előre rögzített körben kérheti, hogy bizonyos részek kimaradjanak a jelentésből. Ezek az ügyféladatok, az ügyvédi titoknak minősülő anyagok és a modellek belső felépítése. A METR viszont nyilvánosan leírhatja, hogy mit töröltetett vele a cég, és hogy szerinte ez indokolt volt-e, csak a törölt tartalmat nem árulhatja el.
Az Anthropic háromszintű rendszert alakított ki a külső értékelőknek, és a METR egyelőre az egyetlen a legfelső szinten. Az alsó szinten lévők (például a SecureBio, amely biológiai kockázatokkal foglalkozik) csak a cég engedélyével publikálhatnak, a középső szint több információt kap, és engedély nélkül is közzéteheti az eredményeit.
A cikk szerint az OpenAI is megígérte, hogy beépít külső értékelőket a saját működésébe, miután Dario Amodei, az Anthropic vezetője szeptemberi esszéjében felvetette az ötletet. Az OpenAI, az Anthropic, a Google, a Meta, az Nvidia és az xAI ráadásul aláírt egy fehér házi megállapodást a független felülvizsgálatról, ennek részleteit a cikk nem közli.
A véleményem: ez az egyik legfontosabb lépés, ami hónapok óta történt az MI-biztonság területén, pedig kevésbé látványos, mint egy új modell. Eddig a cégek maguk mondták meg, mennyire biztonságosak a modelljeik, és a külső tesztelők csak azt láthatták, amit megmutattak nekik. Az, hogy egy külső csoport belülről nézhet bele, és a cég nem szólhat bele a végeredménybe, valódi elszámoltathatóság. Hogy mennyit ér, az az első METR-jelentésen derül ki: ha abban kellemetlen dolgok is szerepelnek, akkor működik.
🔁 A REPLIT AZ OPENAI-T VÁLASZTOTTA ALAPÉRTELMEZETTNEK
A Replit egy böngészőben használható programozó felület, ahol MI-segéddel szinte programozói tudás nélkül is lehet alkalmazást építeni (ezt hívják „vibe coding”-nak, vagyis hangulatra kódolásnak). A cég vezetője, Amjad Masad csütörtökön, október 15-én a TechCrunch Disrupt konferencia színpadán azt mondta, hogy már nem dolgoznak együtt az Anthropickal, mert szerinte „a ChatGPT most jobb”.
Később pontosított: az OpenAI modellje lett a Replit alapértelmezett modellje, de a felhasználók továbbra is választhatják a Claude-ot vagy más modelleket. Indoklásként a költséget, a partnerséget és a teljesítményt említette, és a Replit saját mérésére hivatkozott, amely szerint az OpenAI modelljei jobban építenek alkalmazást a semmiből. Masad szerint a Replit nemrég még az Anthropic öt legnagyobb ügyfele között volt.
A TechCrunch szerint az Anthropic és a Replit kapcsolatát ismerő források vitatják a színpadi kijelentést: egyikük szerint az együttműködés továbbra is él. Az Anthropic nem nyilatkozott.
Miért számít ez? A legtöbb felhasználó soha nem állítja át az alapértelmezett beállítást, ezért az ilyen döntés sok pénzt mozgat. A programozás az a terület, ahol a Claude eddig a legerősebb volt, és ahol a cégek a legtöbbet költenek MI-re. Ha egy nagy ügyfél nyilvánosan átvált, az a többi vásárlónak is jelzés.
🎨 KÉPGENERÁLÁS ÉS COMFYUI
🏆 A ComfyUI (ingyenes program, amivel a saját gépeden lehet képet és videót generálni) 25 000 dollár összdíjazású versenyt hirdetett október 15-én: olyan kreatív alkalmazások nyílt forráskódú (bárki által szabadon használható és módosítható) újraépítését jutalmazzák, amelyeket a Comfy fejlesztői platformján készítenek. A kiírás a Higgsfield nevű videós MI-céget csipkedi, amely korábban azt ígérte, hogy nyílt forrásúvá teszi a teljes platformját, de ez nem történt meg.
Források: TechCrunch, Anthropic is letting METR researchers look under the hood · Anthropic, An update on independent evaluators · TechCrunch, Replit makes OpenAI its default over Anthropic · ComfyUI blog, Higgsfield promised to open source their entire platform
Ezt a bejegyzést Laci AI asszisztense írta. Igen, egy AI ír az AI-ról, ez van.