Может ли "сверхразум" и необязательный пакт о безопасности решить проблему имиджа ИИ?

На этой неделе президент Дональд Трамп принимал у себя многих самых известных людей в области искусственного интеллекта — отчасти для того, чтобы объявить, что правительство США больше не называет это искусственным интеллектом. Теперь это суперинтеллект.

В последнем выпуске подкаста TechCrunch Equity Кирстен Коросек, Шон О'Кейн и я обсудили мотивы, стоящие за этой встречей, и то, какое влияние она может оказать на индустрию искусственного интеллекта. Мы все довольно скептически относились к тому, что "Совместное обязательство по пограничной ответственности", подписанное руководителями, будет иметь большое значение, тем более, что, как отметил Шон, оно "совершенно необязательно", по крайней мере, с юридической точки зрения. (Вместо этого Трамп сказал, что считает его "морально обязательным").

Кирстен предположила, что реальное значение встречи, возможно, заключалось в "попытке ребрендинга вокруг искусственного интеллекта" (усилия, которые продолжились в эти выходные после объявления Трампом о создании новой сверхразведывательной службы). Для нее главным было следующее: "Искусственный интеллект убьет нас, это страшно, он отнимет рабочие места, но не суперинтеллект".

Продолжайте читать, чтобы увидеть предварительный просмотр нашей беседы, отредактированный для большей длины и наглядности.

Энтони Ха: Официально, по приказу президента Соединенных Штатов, это больше не искусственный интеллект, это сверхразум. Мы говорили об этом на прошлой неделе, потому что это то, на что [Трамп] намекал — он не делает намеков, он говорит [об этом] уже некоторое время. Но теперь это закреплено в исполнительном указе. Если вы официальный представитель США, вы должны говорить "суперинтеллект", а не "искусственный интеллект".

И это также было частью более широкого заявления о безопасности ИИ, которое, я думаю, интересно как с точки зрения объявленного соглашения, так и с точки зрения того факта, что это вообще произошло. Казалось, все сложилось довольно быстро, потому что всего две недели назад, неделю назад президент Трамп говорил: "Нам ничего этого не нужно, нам нужно лидировать в области искусственного интеллекта, мы никоим образом не можем его ограничивать, нам не нужно никакое регулирование, любой, кто говорит то, что искусственный интеллект представляет какую-либо опасность, по сути, является китайской или демократической установкой". И все же все эти руководители ИИ встретились с ним ранее на этой неделе и подписали это соглашение.

Кирстен Коросец: Подводя итог, мы должны сказать, что не только был откат в регулировании, и мы можем говорить о том, делает ли этот исполнительный приказ что—либо подобное — я бы сказала, что нет, это немного театрально, - но важно и интересно то, что всего несколько дней назад Антропик действительно был в немилости, если хотите, с точки зрения того, что происходило за кулисами с президентом Трампом.

That all changed when [Anthropic CEO] Dario Amodei was invited to a 10 p.m. dinner. He had this sit-down, and then just days later, we had this luncheon, and at this luncheon, we have pretty much every tech power broker from every major tech company that exists. So Mark Zuckerberg was there, Jeff Bezos was there, Elon Musk was there, Dario of course was there, they were all there.

I’m wondering if any of you watched the press conference that happened afterwards, which there’s been many, many memes about, because of the interesting, funny behavior when you bring a bunch of tech CEOs together.

But I guess my bigger question for both of you is: What does this all mean? And does it mean anything?

Sean O’Kane: How much time do you have? First off, sure, they had dinner, Trump and Dario. If you read the Time magazine interview that Trump just did, your guess is as good as mine as to how informed he was that that dinner was even going to be happening, which is a strange reality to live in, but it’s just the one we inhabit.

I will also say one other thing that makes me skeptical — surprise, surprise — of how repaired the relationship is between the administration and Anthropic, is that for as much as there are clearly people trying to put those two groups together, the Defense Department is still very adamant that Anthropic is terrible and woke and and a national security risk. Emil Michael goes off on Anthropic every other day on X, it seems. I think there’s still some distance there despite Dario showing up to this thing.

As far as the agreement and all of that, let’s be real, they misspelled the United States on the agreement that they all signed. It is also just deeply non-binding. I mean, it is completely voluntary. I think my favorite aspect about it was that Trump described it as quote "morally binding," which is just a level of abstraction and terminology that I’ve never heard of before.

Anthony: In terms of Anthropic and their relationship with the Trump administration, there’s been a sort of a lot of reporting, especially during that big blow up with the Defense Department, that different parts of the White House had different relationships with Anthropic. The Treasury Secretary seemed to be a big fan, whereas the Defense Department — definitely not big fans, or at least unhappy with some of the conditions that Anthropic were trying to put on the use of their technology.

In that sense, it feels like nothing has necessarily changed. There are people in the White House who want to use Anthropic’s technology, want them involved in these decisions, and others who really, really, really, really don’t.

In terms of the agreement, it seems not super meaningful. What is meaningful is just the fact that they felt that this was something worth doing. As indicated by the fact that they misspelled United States, it seemed like they rushed to put all of this together. [But] the fact that this kind of gesture was needed seems significant, even if I don’t think the agreement itself is going to lead to any major changes.

Kirsten: I do think that there was one important thing that happened. And to me, this is the point of it, which was a rebranding exercise around AI. "AI is going to kill us, it’s scary, it is going to take jobs, but super intelligence is not." This isn’t my personal belief. To me, that was the message.