В петък президентът Тръмп забрани Anthropic и нейните продукти за изкуствен интелект от всички правителствени договори, а комунистите в Пекин сигурно се радват. Администрацията превръща един скромен спор относно военното използване на изкуствения интелект в самоунищожителна демонстрация на брутална политическа сила, която ще навреди на американската армия и останалата част от правителството.
Конфликтът между етиката и военната стратегия
Моделите на Anthropic бяха първите авангардни AI, внедрени в класифицирани мрежи на американското правителство. Пентагонът предпочита договор за използване на инструментите за «всякаква законна употреба», както е посочено в неговата AI стратегия. Anthropic направи изключение. Компанията не желае моделите й да се използват за:
-
масово вътрешно наблюдение;
-
напълно автономни оръжия, които нанасят удари без човешко участие в процеса на вземане на решения.
Пентагонът има право да преустанови сътрудничеството си с компанията. Мисиите на американската армия са отговорност на избрани и политически отговорни длъжностни лица. Аналогията не е съвършена, но една компания не може да продаде на американската армия ракета и след това да се пазари за приемливи цели.
Принципи срещу договори
Това е принципът, който е в основата на спора, а не дали Пентагонът може да «масово наблюдава» американските граждани, което никой не подкрепя и не се случва. Използването на напълно автономни оръжия поставя реални етични дилеми, въпреки че технологията все още не е готова за това. И двете са въпроси, които засягат практиките на Министерството на отбраната и Конгреса, а не договорите. Anthropic можеше да направи отстъпка, без да се откаже от по-важните си принципи.
Но вместо да пожелае на Anthropic успех в бъдещите й начинания и да приеме потенциално по-нискокачествени продукти, президентът предприе драстични мерки. В петък г-н Тръмп обяви в интернет, че нарежда на «ВСИЧКИ федерални агенции» да «ПРЕКРАТЯТ НЕЗАБАВНО всякакво използване на технологията на Anthropic», като дава шест месеца за премахването й в Пентагона.
Последици за американската отбрана
Това ще навреди на Anthropic, но може да навреди и на отбраната на САЩ. Моделът Claude и AI инструментите на компанията са на челна линия в иновациите на САЩ, а нищо не е по-важно за американските войски от технологичното предимство на бойното поле.
Пентагонът не разкрива много за това как използва AI, но миналата година официален представител заяви, че Индо-тихоокеанското командване на САЩ е «един от основните потребители», което означава срещу Китай. От какви разузнавателни или планови инструменти ще трябва да се откажат американските сили сега?
Политически натиск и конкуренция
Илон Мъск се включи в спора тази седмица, като публикува, че «Anthropic мрази западната цивилизация», и без съмнение е доволен, че забраната на г-н Тръмп за Anthropic може да създаде възможност за неговата Grok AI да получи договорите. Но Anthropic не страда от липса на патриотизъм. Компанията твърди, че е пропуснала приходи, като е прекъснала връзките си с фирми, свързани с Китайската комунистическа партия.
Не е маловажно, че технологична компания е била готова да помогне на американската армия в бойни действия, което е промяна в сравнение с преди десетилетие, когато повечето от Силициевата долина разглеждаха договорите с Пентагона като съучастие в империализма.
Г-н Тръмп осмива Anthropic като «някаква извън контрол, радикално лява AI компания». Но по-голямата картина преди кризата беше, че AI компания с прогресивна репутация и Пентагонът на Тръмп до голяма степен се съгласиха, че Америка трябва да бъде защитена с най-модерна технология. Пентагонът се нуждае от всякаква AI помощ, която може да получи, тъй като технологията напредва с бързи темпове и Китай не е далеч зад него. Народната освободителна армия е победителката от забраната на Anthropic.
* Anthropic е американска компания за изкуствен интелект, основана през 2021 г. в Сан Франциско. Тя разработва големи езикови модели (LLM), най-известният от които е серията Claude – конкурент на ChatGPT.
