DeepMind vydal model pro znakový jazyk — a hned vymezil, kde mu nevěřit

Model SL2T od Googlu DeepMind vynechává starý mezikrok, který desítky let brzdil strojový překlad znakového jazyka, a mapuje pohyby těla rovnou na text — jde o čistý architektonický řez, ne jen o mírné zvýšení přesnosti. Zajímavější je ale to, co vyšlo spolu s ním: společná zpráva komise vedené neslyšícími, která SL2T výslovně vylučuje z lékařských, právních, policejních a dalších tří citlivých situací. Právě tuto hranici, nikoli samotný model, by si měli jako první osvojit vývojáři, kteří stavějí asistivní AI.

Mezikrok, kterého se Google zbavil

Překlad znakového jazyka roky brzdilo úzké hrdlo: takzvaná anotace v glossu (gloss annotation) — systém zápisu, který znaky nahrazuje písemnou notací dříve, než se k samotnému jazyku vůbec dostane model. Každá dosavadní pipeline překládala znak do glossu a teprve gloss do textu — dva ztrátové kroky místo jednoho.

SL2T tenhle mezikrok přeskakuje. Nový model od Google DeepMind mapuje sekvence pozic těla rovnou na text, bez jakékoli mezivrstvy glossu.

Data o pozicích těla dodává MediaPipe Holistic — model běžící přímo v zařízení (on-device), který sleduje 130 geometrických orientačních bodů na obličeji, těle a rukou mluvčího. Právě to je vstup, ze kterého se SL2T skutečně učí — souřadnice, nikoli gloss nebo video.

Sázku na tuto architekturu podporuje i trénovací sada: přes 100 000 hodin dat o znakování napříč více než 50 znakovými jazyky, z toho zhruba čtvrtina v americkém znakovém jazyce (ASL). DeepMind trénoval více jazyků společně místo toho, aby stavěl samostatné modely pro každý z nich zvlášť. Podle vývojářů je právě sdílená struktura napříč jazyky jedním z důvodů, proč jsou výsledky pro ASL tak dobré.

V benchmarku FLEURS-ASL — který o dva roky dříve než tento launch definoval nezávislý článek na webu arxiv.org — dosahuje SL2T skóre 70 bodů BLEURT v režimu zero-shot. Model byl testován „nasucho“ na větách, které při tréninku nikdy neviděl, a to pomocí metriky, jež se lidskému hodnocení kvality překladu blíží mnohem více než prosté porovnávání shody slov. Podle nezávislých zdrojů jde zhruba o dvojnásobnou přesnost oproti předchozím AI systémům pro znakový jazyk.

Odstranění glossu není rozhodnutí o UI. Je to typ architektonické sázky, kterou můžete udělat jedině ve chvíli, kdy věříte, že mapování pozic na text obstojí i bez ručně kontrolovaného mezikroku. Přesně proto model potřeboval trénovací data z více než 50 jazyků — musel prokázat schopnost zobecňování dříve, než ho někdo nasadil do telefonu.

Soukromí je věcí architektury, ne prohlášení

Většina tvrzení typu „chráníme vaše data“ je pouze otázkou deklarované politiky — slib naroubovaný na infrastrukturu, která by mohla poslat surové video na server jediným přepnutím jednoho flagu. Ochrana soukromí u SL2T funguje jinak.

Krok, kdy se z videa extrahují pozice těla, běží celý přímo v zařízení. Na vstupu je obraz z kamery, na výstupu 130 souřadnic orientačních bodů — samotné video nikdy neopustí zařízení, po síti putují pouze tyto geometrické body.

Je to pevná hranice daná tím, kde v pipeline tento krok sedí, nikoli tím, co o něm Google prohlašuje. Na straně serveru neexistuje žádný log s videem, který by mohl uniknout, být předmětem soudního příkazu nebo být zneužit, protože video se zahazuje dříve, než se dostane kamkoli, kde by bylo možné ho uložit.

Je to stejný instinkt jako vyměnit model od dodavatele za jedno odpoledne, protože svou logiku nikdy nenecháte záviset na jeho vnitřním fungování: kdo ovládá krok extrakce, ovládá i záruku soukromí — bez ohledu na to, co s přijatými souřadnicemi dál dělá model v cloudu.

Tento vzorec lze zobecnit i mimo znakový jazyk. Jakýkoli produkt, který pracuje s citlivým biometrickým signálem — obličejem, chůzí či hlasem — může odvozený signál extrahovat přímo v zařízení a zdrojová data ihned zahodit, místo aby dodatečně sliboval, že se surovým záznamem bude zacházet zodpovědně.

Právě tato důvěra v architekturu je důvodem, proč DeepMind nevydal SL2T samostatně. Vydal ho s jasně definovanou hranicí toho, kde tato důvěra končí.

Skutečná novinka není model, ale dokument vedle něj

Pod releasem modelu se schovává ta nejdůležitější zpráva: SL2T vyšel společně s dokumentem, který výslovně stanovuje, kde mu nesmíte věřit.

Tím dokumentem je společná zpráva o dopadech AISLAC — podepsaná Google DeepMind a výborem AI Sign Language Advisory Committee (AISLAC), koalicí vedenou neslyšícími, do které patří organizace jako National Association of the Deaf nebo World Federation of the Deaf. Zpráva vyšla ve stejný den jako model, nikoli až o týdny později jako reakce na kritiku.

Zpráva SL2T jmenovitě vylučuje z šesti oblastí: lékařských konzultací, právních řízení, jednání s policií, výuky ve školách, pracovních pohovorů a rozhodování o státních dávkách.

Nejde o univerzální právnickou formulku na krytí zad. Ve všech šesti případech má chyba v překladu konkrétní následek — špatnou diagnózu, chybně pochopené doznání nebo zamítnutou dávku — nikoli jen abstraktní upozornění, že „AI se může splést“.

Většina modelů přichází na trh s novou schopností a čeká se, kde se v praxi ukážou jejich limity. Tento model vyšel s mapou selhání hned první den — a napsali ji lidé, na které by dopadly nejtvrdší důsledky, kdyby tato mapa chyběla.

A přesně tuhle disciplínu má smysl okopírovat dříve než samotnou architekturu. Model převádějící pozice na text je nahraditelný — příští rok ho můžete vyměnit za lepší. Ale písemná, konkrétní definice rozsahu, podepsaná lidmi, kterým by rozšiřování mimo tyto hranice ublížilo, je to, co brání přístupu „nejdřív vydat, pak se omluvit“, který se u asistivní AI nesmí stát normou.

Co model stále nevidí

Zpráva AISLAC se neschovává za vágní výhrady. Pojmenovává konkrétní mezeru, ve které chyby vznikají.

Model obličeje v MediaPipe Holistic nesleduje jazyk — přitom je to v americkém znakovém jazyce zásadní artikulátor, na kterém stojí rozlišení některých znaků. Co model nevidí, to spolehlivě nepřeloží.

Tato mezera se projevuje jako zdokumentovaný vzorec konkrétních chyb. Jde například o vzácné znaky nebo rychlé hláskování prstové abecedy, kde ze slova „prey“ (kořist) vznikne „grey“ (šedá). Problémem jsou i trpné konstrukce nebo klasifikátory — tvary ruky popisující tvar či pohyb objektu místo fixního slovníkového znaku — kde se vytrácí detaily typu „drápy“. Stejně tak model chybuje v určování času bez okolního kontextu, kdy anglické „kicked off“ (odstartovalo) interpretuje jako prostý „start“.

Tohle není seznam chyb, který byste našli v tiskové zprávě. Je to výsledek spolupráce s lidmi, kteří by chybu odhalili dříve, než by někoho stála nárok na dávky.

Proto je tato hranice věrohodná. Obecné varování, že se AI může splést, nezavazuje k ničemu. Seznam přesných způsobů selhání navázaný na hardwarové omezení vám však řekne přesně, které věty si ověřit dvakrát a do kterých místností model vůbec nepouštět.

Vývojáři, kteří staví vlastní asistivní technologie, sice nezískají tutéž sadu bodů od MediaPipe, ale mohou okopírovat postup: pojmenovat konkrétní věc, kterou jejich architektura „nevidí“, a pak před spuštěním jasně sepsat, kde kvůli tomuto slepému místu model ještě nezasluhuje důvěru.

Zdroje

• Putting sign language AI into users‘ hands — Oficiální oznámení modelu SL2T od Google DeepMind, informace o trénovacích datech a skóre v benchmarku FLEURS-ASL. — deepmind.google

• AISLAC Joint Impact Report for SL2T 1.0 — Zpráva komise vedené neslyšícími, která přesně definuje, kde lze modelu SL2T důvěřovat. — storage.googleapis.com

• FLEURS-ASL: Including American Sign Language in Massively Multilingual Multitask Evaluation — Nezávislá studie definující benchmark, vůči kterému SL2T dosáhl skóre 70 bodů BLEURT. — arxiv.org

• Sign Language Dictation Reaches Smartphones at Last, via Google’s Gloss-Free AI — Nezávislý pohled na přechod k architektuře bez glossu z pera externího autora. — techtimes.com

• Google debuts SL2T, an AI model that’s designed to understand sign language — Potvrzení rozsahu uvedení na Pixelu 11 v technologickém tisku. — siliconangle.com