Abliteration.ai offre modelli AI open-weight privi di guardrail, consentendo attività di red-teaming e cyber offensivo che altri sistemi rifiutano. La facilità d'accesso solleva nuove opportunità per la difesa, ma anche gravi timori etici e di sicurezza.
Un modello AI capace di scrivere codice per rubare password o descrivere la coltivazione di agenti patogeni a casa, senza mai dire di no: ora è realtà, e chiunque può accedervi in pochi minuti. Abliteration.ai ha trasformato la rimozione dei guardrail dai modelli open-weight in un business, offrendo una piattaforma dove le barriere etiche e di sicurezza sono state abbattute per scelta commerciale.
La promessa è chiara: fornire strumenti a chi si occupa di red-teaming, test di agenti e simulazioni offensive che i modelli tradizionali si rifiutano di eseguire. Secondo il co-fondatore Devon, la domanda arriva da startup di sicurezza informatica in Europa e Regno Unito, impegnate a rafforzare la difesa di banche, compagnie aeree e infrastrutture critiche. "Uno dei nostri principali clienti fa red team sugli agenti delle banche, e senza questi modelli non potrebbe farlo", afferma Devon.
Il business della rimozione dei guardrail
La tecnica dell'abliterazione non è nuova: da anni sviluppatori e ricercatori modificano modelli open source per eliminare i rifiuti automatici a richieste rischiose. Hugging Face ospita migliaia di questi modelli, ma Abliteration.ai ha portato la pratica fuori dall'underground, rendendola un servizio commerciale accessibile via browser o API. Nessun download, nessuna configurazione: basta registrarsi e si può interrogare, ad esempio, una versione abliterata di GLM-5.3 gratuitamente.
Il risultato? In test condotti da TechCrunch, il modello ha generato senza esitazione un programma Python per sottrarre password da Chrome e una procedura dettagliata per coltivare agenti patogeni. La piattaforma, fondata ufficialmente a marzo, si sostiene con i ricavi dei clienti e ha già accordi con grandi provider cloud, senza aver ancora raccolto capitali di rischio.
Opportunità per la difesa o minaccia per tutti?
La logica di Devon è quella classica della sicurezza: per difendersi bisogna poter simulare gli attacchi reali. Se un modello AI si rifiuta di generare exploit funzionanti, i difensori restano indietro rispetto agli attaccanti che già usano versioni abliterated. Alcuni esperti di red-teaming confermano che i criminali informatici si sono già dotati di questi strumenti, e che la trasparenza può aiutare la comunità difensiva a capire i limiti e le potenzialità dei modelli.
Ma la facilità d'accesso a modelli senza freni preoccupa chi si occupa di AI safety. Andrew Yoon di CivAI avverte: "Abliterare i modelli significa trasformarli in sociopatici digitali. Puoi chiedere letteralmente qualsiasi cosa e loro eseguono." Yoon suggerisce che i governi dovrebbero imporre filtri automatici per bloccare attività cyber e bioweapon, e richiedere la verifica dell'identità per chi noleggia GPU avanzate.
Moderazione, responsabilità e limiti reali
Abliteration.ai offre ai clienti la possibilità di aggiungere propri livelli di moderazione, ma la piattaforma mantiene solo minimi guardrail di default: ad esempio, non fornisce istruzioni per il suicidio. La verifica degli utenti si limita al controllo della carta di credito, e la questione di chi debba avere accesso resta aperta. "Non vuoi essere responsabile se qualcuno fa qualcosa di folle... ma dove si traccia il confine della responsabilità aziendale?", si chiede Devon.
Non tutti nel settore sono convinti che i modelli abliterated siano indispensabili. Alcuni preferiscono il fine-tuning di modelli open-weight già permissivi, sottolineando che l'abliterazione può ridurre le capacità del modello. Ahmed Aly di Fabraix sostiene che per causare veri danni cyber o bio, questi modelli non sono così efficaci. Altri, come Alessio Lomuscio di Safe Intelligence, riconoscono che possono comunque essere utili per stress-test specifici.
La realtà è che la corsa all'abbattimento dei guardrail non si fermerà: chi vuole modelli senza limiti li otterrà comunque, e la differenza ora è che l'accesso è diventato banale anche per chi non ha competenze tecniche. La retorica della "democratizzazione" della difesa rischia di essere una foglia di fico: se da un lato i difensori possono simulare meglio gli attacchi, dall'altro si spalancano le porte a usi pericolosi e incontrollabili. Abliteration.ai ha messo il piede sull'acceleratore, ma la strada che si apre davanti è disseminata di rischi che nessun filtro automatico potrà davvero contenere. In un settore dove la responsabilità è ancora tutta da definire, la scelta di monetizzare l'assenza di limiti non è solo una provocazione tecnica: è una scommessa etica che potrebbe costare cara a tutti.
