VS blokkeert Anthropic-modellen Fable 5 en Mythos 5 voor niet-Amerikanen na jailbreak-alarm
De Amerikaanse overheid heeft Anthropic opgedragen zijn krachtigste AI-modellen Claude Fable 5 en Mythos 5 te blokkeren voor gebruikers buiten de VS. Aanleiding is een jailbreak die het ministerie van Handel als nationaal veiligheidsrisico bestempelt.
Kernpunten
- Anthropic heeft op last van Washington de toegang tot Claude Fable 5 en Mythos 5 geblokkeerd voor niet-Amerikaanse gebruikers.
- Het Amerikaanse ministerie van Handel vreest dat een jailbreak van Fable 5 een nationaal veiligheidsrisico vormt.
- Anthropic is het publiekelijk oneens met de maatregel: het bedrijf stelt dat één smalle potentiële jailbreak geen reden is om een commercieel model terug te trekken.
Anthropic heeft zijn AI-modellen Claude Fable 5 en Mythos 5 volledig geblokkeerd voor gebruikers buiten de Verenigde Staten. De blokkade volgt op een directieve vanuit Washington, zo melden Ars Technica en Techzine.
Het Amerikaanse ministerie van Handel (Commerce Department) vreest dat een gevonden jailbreak in Fable 5 een nationaal veiligheidsrisico oplevert. Een jailbreak is een techniek waarmee gebruikers de ingebouwde veiligheidsbegrenzingen van een AI-model proberen te omzeilen. De volledige toegangsblokade voor niet-Amerikanen is het directe gevolg.
Anthropic laat in een blogpost weten het niet eens te zijn met de beslissing. Volgens TechCrunch schreef het bedrijf: "Wij zijn het er niet mee eens dat het aantreffen van een smalle potentiële jailbreak reden moet zijn om een commercieel model terug te trekken dat aan honderden miljoenen mensen is uitgerold."
Wat betekent dit voor de BeNeLux?
Gebruikers in de BeNeLux die toegang hadden tot Claude Fable 5 of Mythos 5 zijn door de maatregel van toegang afgesloten. De blokkade is het gevolg van een Amerikaans overheidsbesluit en geldt voor alle niet-Amerikaanse gebruikers.
Bronnen
+ bevestigd door nog 2 bron(nen)