OpenAI revidovala svou dohodu s ministerstvem obrany USA, aby výslovně zakázala používání svých technologií umělé inteligence pro domácí sledování amerických občanů. Tento krok následoval po široké kritice původní dohody, která podle všeho poskytla Pentagonu široký přístup k systémům umělé inteligence OpenAI pro jakýkoli zákonný účel.
Počáteční skandál a role Trumpovy administrativy
Počáteční partnerství, oznámené v pátek, se shodovalo s příkazem prezidenta Trumpa federálním agenturám, aby přestaly používat umělou inteligenci vyvinutou konkurentem OpenAI Anthropic. Tento okamžik vyvolal otázky ohledně politického vlivu na rozhodování o nákupu AI. V první verzi dohody si OpenAI ponechalo právo uvalit „technická omezení“ na svou technologii, aby zajistilo soulad s jejími bezpečnostními principy, ale nejistota smluv vyvolala obavy z možného zneužití.
Upravené podrobnosti smlouvy
Pozměněná dohoda nyní obsahuje jasná omezení úmyslného sledování amerických osob nebo občanů a shromažďování nebo používání osobních údajů pro sledování nebo sledování. OpenAI tvrdí, že je to v souladu se stávajícími federálními zákony upravujícími soukromí a občanské svobody. Společnost zdůraznila svůj závazek udržovat stanovené bezpečnostní standardy pokračováním spolupráce s obranným sektorem.
Reakce Pentagonu a antropická pozice
Ministerstvo obrany vydalo prohlášení, že je ochotno vyjednávat, na rozdíl od Anthropic, který byl obviněn z toho, že staví osobní rozdíly nad spolupráci. Ochota Pentagonu diskutovat o podmínkách kontrastuje s tím, že Anthropic odmítá zapojit se do podobných jednání.
Aktualizovaná smlouva je přímou reakcí na nespokojenost veřejnosti s původní dohodou. Důsledky jsou významné: Signalizuje rostoucí tlak na vývojáře umělé inteligence, aby vyvážili zájmy národní bezpečnosti s otázkami občanských práv. Případ zdůrazňuje křehkou rovnováhu mezi vojenskými aplikacemi umělé inteligence a potřebou chránit soukromí občanů a vyvolává otázky, jak budou podobné obchody strukturovány v budoucnu.
Rozhodnutí OpenAI změnit svou dohodu nakonec ukazuje, že dokonce i ve vysoce sázkových partnerstvích s vládními agenturami může veřejná kontrola přimět společnosti, aby upřednostňovaly etické aspekty.
