Disputa Pentagonului întărește reputația Anthropic, dar ridică întrebări despre pregătirea AI în armată

Anthropic a adoptat o poziție morală privind utilizarea inteligenței artificiale (AI) de către armata americană, ceea ce a influențat competiția dintre companiile de top din domeniu. Recent, chatbot-ul Claude de la Anthropic a depășit pentru prima dată ChatGPT în ceea ce privește descărcările de aplicații mobile în Statele Unite, conform apnews.com. Acest lucru are loc în contextul unei dispute legale cu Pentagonul.

👉 Poziția fermă a Anthropic împotriva utilizării AI în arme autonome

Anthropic, condusă de CEO-ul și co-fondatorul Dario Amodei, a refuzat să permită aplicarea tehnologiei sale la arme autonome și supravegherea de masă, ceea ce a dus la interdicția de utilizare a lui Claude de către administrația Trump. Aceasta a denumit tehnologia o "risipă de lanț de aprovizionare". Amodei a declarat că firma va contesta legalitatea acestor restricții odată ce va primi o notificare oficială a penalităților.

👉 Critici și susținere pentru poziția Anthropic

Mulți experți din domeniul militar și al drepturilor omului au lăudat poziția lui Amodei, dar alții s-au arătat frustrați de marketingul agresiv al industriei AI, care a convins guvernul să adopte tehnologia pentru sarcini riscante. Missy Cummings, fost pilot de vânătoare și director al centrului de robotică și automatizare la Universitatea George Mason, a comentat că Anthropic a alimentat hype-ul din jurul acestor tehnologii și acum încearcă să se distanțeze de consecințele negative.

Cummings a subliniat că agențiile guvernamentale ar trebui să interzică utilizarea AI generativă în manipularea armelor, având în vedere greșelile frecvente pe care le comit modelele de limbaj, care sunt "inherently unreliable" (incredibile) în situații cu risc de viață. Amodei a citat aceste limitări în apărarea poziției etice a Anthropic, aducând în discuție riscurile pentru soldații americani și civili.

👉 Impactul disputei asupra reputației și descărcărilor aplicațiilor AI

Recent, descărcările de Claude au crescut semnificativ, făcându-l cel mai popular aplicație pe iPhone, în detrimentul ChatGPT, care a suferit o reputație afectată după anunțul unei colaborări cu Pentagonul. Potrivit Sensor Tower, recenziile negative pentru ChatGPT au crescut cu 775% într-o singură zi, ceea ce a determinat OpenAI să efectueze o acțiune de reparare a imaginii.

CEO-ul OpenAI, Sam Altman, a recunoscut complexitatea problemelor și a subliniat importanța unei comunicări clare, promițând că vor colabora cu Pentagonul pentru a aborda provocările legate de siguranța tehnologiei AI.