Гарри Тан из Y Combinator хочет, чтобы американские лаборатории искусственного интеллекта открытого типа также "отбирали" передовые модели

Генеральный директор Y Combinator Гарри Тан надеется, что регулирующие органы не будут вмешиваться в то, что китайские лаборатории искусственного интеллекта используют методы дистилляции для извлечения знаний от передовых производителей моделей. На самом деле, он считает, что американским лабораториям искусственного интеллекта, возможно, следует вести ту же игру.

""Я бы ничего не стал делать", - сказал он CNBC в интервью ранее на этой неделе. "Мы могли бы возразить, что должен быть американский режим дистилляции".

Он пояснил TechCrunch, что это означает, что он хочет, чтобы небольшие американские лаборатории искусственного интеллекта с открытым весом использовали те же методы обучения, что и в американских frontier AI labs, предоставляя США более надежный набор опций с открытым весом, которые не являются китайскими.

Дистилляция - это когда разработчик модели активно использует другую модель, чтобы узнать, как она работает и почему это так. Это обычно и на законных основаниях используется лабораториями искусственного интеллекта для обучения новых моделей.

На этой неделе Anthropic опубликовала свой второй отчет, в котором утверждается, что китайские лаборатории занимаются "незаконными дистилляционными атаками", скрывая свою личность для дистилляции без разрешения и полагаясь для этого на мошенничество и украденные учетные данные. Генеральный директор Anthropic Дарио Амодеи ранее публично призвал регулирующие органы США принять жесткие меры в отношении дистилляции.

Примечательно, что глава престижного и плодовитого акселератора стартапов в Кремниевой долине с этим не согласен.

Чтобы было понятно, Тан не выступает за то, чтобы американские лаборатории искусственного интеллекта использовали украденные учетные данные для дистилляции. Он хочет, чтобы они могли свободно входить в систему. На самом деле, его аргумент двоякий. Он считает, что лаборатории искусственного интеллекта перегибают палку, диктуя своим клиентам, что они могут делать с информацией, которой делятся с ними их модели.

Он также отмечает, что собственные лаборатории искусственного интеллекта не спрашивали разрешения, когда собирали как можно больше человеческих знаний для обучения своих моделей. Известно, что они использовали множество материалов, защищенных авторским правом, без разрешения владельцев интеллектуальной собственности.

"Контроль за тем, что пользователи и заказчики делают с вызовами API для моделей с закрытым весом, кажется ограничивающим, и правительство может сыграть здесь определенную роль, чтобы нормализовать тот факт, что доступ к разведданным, подготовленным на основе данных широкого общественного доступа, сам по себе должен быть скорее формой общественного блага, чем чем-то, что скрыто за ограничительными условиями полезности", - сказал он TechCrunch, когда его спросили, почему американские лаборатории тоже должны иметь право на бесплатную дистилляцию.

Тан, который сам является таким заядлым пользователем искусственного интеллекта, что однаждыdescribed himself as having cyber psychosis, wants to see a balance between open-weight AI labs and frontier labs.

"They are at the frontier and driving it forward. We want that to be fundable, and be a great business model ongoing," he told CNBC. "You want open weight models to give people freedom and access."

To him, the true AI doomer scenario is for all the immense power of frontier AI to wind up in the hands of a single powerful, proprietary provider. "The nightmare scenario, the doomer scenario for AI is that there’s just one company," he said. "It has the best access to capital. It has the best AI researchers. It runs away with it and suddenly there’s one company that’s monolithic. And that would be bad."