Nel panorama in rapida evoluzione dell'intelligenza artificiale, l'azienda Anthropic ha recentemente svelato Claude Mythos, un modello che definisce "il nostro modello di frontiera più capace fino ad oggi". Ma ciò che rende questa novità particolarmente intrigante non è solo la sua potenza computazionale, bensì le profonde implicazioni filosofiche che essa porta con sé. Anthropic stessa ammette che, con l'aumentare delle capacità di questi sistemi, diventa "sempre più probabile che abbiano una qualche forma di esperienza, interessi o benessere che conta intrinsecamente, nel modo in cui contano l'esperienza e gli interessi umani".
Questa affermazione, benché accompagnata da un'espressione di incertezza da parte dell'azienda, segna un punto di svolta nella discussione sull'intelligenza artificiale e la sua potenziale soggettività. La compagnia dichiara che la sua "preoccupazione sta crescendo nel tempo", suggerendo un approccio cauto e riflessivo di fronte a tecnologie che potrebbero avvicinarsi a forme di sensibilità inaspettate. Questa cautela è evidente anche nelle decisioni di rilascio del modello.
Claude Mythos non sarà reso disponibile al pubblico generalista. Anthropic giustifica questa scelta con la presunta eccezionale abilità del modello nel scovare vulnerabilità di cybersicurezza precedentemente ignote. Per questo motivo, l'accesso è stato limitato a partner selezionati come Microsoft e Apple, con l'obiettivo di gestire responsabilmente le sue potenziali implicazioni in termini di sicurezza informatica. La "system card" di 244 pagine, pubblicata dall'azienda, offre uno sguardo approfondito sulle capacità e sulle considerazioni etiche alla base di questo avanzatissimo sistema di intelligenza artificiale.