IOSF: технологии сильны, но почему пользователи не платят? 6 вопросов, на которые должны ответить предприниматели в области ИИ

Автор: IOSF

Недавно IOSF собрал за столом друзей, занимающихся ИИ, в Сан-Франциско, где мы наслаждались кантонской кухней и обсуждали в течение почти двух часов.

За столом были исследователи из OpenAI, xAI, Google DeepMind, работающие в области вывода моделей и ускорения GPU, генерации речи и видео; также были друзья, занимающиеся коммерческим сотрудничеством в области мировых моделей, ИИ-продуктами и стартапами, а также специалисты из ранних технологических инвестиций и капитальных рынков.

Одна и та же тема часто вызывает разные отклики. Исследователи говорят о технических ограничениях, предприниматели думают о пользователях и продуктах, а инвесторы продолжают задавать вопросы о клиентах, затратах и о том, может ли бизнес быть устойчивым.

Обсуждение началось с сервисов вывода и мировых моделей, затем перешло к RSI, самосознанию агентов и вернулось к данным и конфиденциальности в повседневной работе. Оглядываясь на эти обсуждения, мы хотим продолжить задавать вопросы:

Как прогресс в возможностях ИИ может быть преобразован в продукты, которые будут использоваться постоянно, более надежные исследования и инструменты, которым можно доверять?

Шесть вопросов, которые еще не были обсуждены

01 Вывод сервисов: насколько велик рынок, почему клиенты остаются?

Когда речь зашла о сервисах вывода, за столом быстро возникли два одновременно действующих мнения.

Некоторые инвесторы видят рост применения ИИ и спрос на вывод, вызванный прогрессом в открытых моделях. Чем больше моделей используется, тем более коммерчески ценным становится предоставление услуг быстрее и стабильнее.

Исследователи же напоминают, что, глядя только на программные решения, различия между различными сервисами могут не быть столь значительными, как это представляется извне. Друзья из капитальных рынков больше беспокоятся о клиентах и ценовой конкуренции: может ли бизнес компании сохранять достаточно хорошую валовую прибыль?

Обсуждение таким образом перешло от вопроса о размере рынка к вопросу о том, почему клиенты остаются.

Если клиентам легко сменить поставщика услуг, как долго преимущества, полученные от технической оптимизации, могут сохраняться? На чем компания может рассчитывать, чтобы получить более стабильный спрос, и сможет ли она преобразовать рост масштабов в лучшие результаты ведения бизнеса?

Для IOSF рост спроса делает одно направление интересным; удержание клиентов, качество обслуживания и структура затрат помогают нам лучше понять конкретную компанию.

02 После демонстрации мировой модели, почему пользователи возвращаются?

Вокруг мировой модели обсуждали генерацию видео и интерактивный опыт, а также то, как исследователи выбирают направления для стартапов.

Один из друзей, работающий с видео моделями, упомянул, что поддержка со стороны крупных компаний для определенного направления может зависеть от перераспределения ресурсов и изменения исследовательских приоритетов. Исследователи выбирают стартапы, иногда также в поисках более подходящей среды для продвижения своих идей.

Но возвращаясь к продукту, все же нужно ответить на несколько конкретных вопросов: Что пользователи могут сделать с этим? Приемлема ли задержка взаимодействия? Соответствуют ли затраты на использование этому сценарию?

Демонстрация показывает возможности технологии, а постоянное использование требует от продукта ответов на более долгосрочные вопросы: Почему пользователи будут возвращаться и за что они готовы платить?

Что касается того, в каких сценариях мировая модель будет использоваться повторно, за столом не было единого мнения. Этот еще не определенный вопрос также оставляет пространство для следующего общения.

03 RSI: Как определить, что стоит делать дальше?

Когда речь зашла о RSI, то есть рекурсивном самоулучшении ИИ, обсуждение начало касаться самой исследовательской работы.

Один из исследователей напомнил, что модель может постоянно пытаться двигаться в направлении, которое кажется многообещающим, не зная, когда следует остановиться. Краткосрочные показатели улучшения не обязательно означают, что исследование идет в правильном направлении.

Сложность в том, достаточно ли существующих доказательств для продолжения инвестиций? Одно неудачное испытание означает необходимость корректировки метода или следует сменить гипотезу?

Это также заставляет нас задуматься о том, что для оценки исследовательских возможностей ИИ нужно смотреть на полный процесс исследования. Как он формулирует вопросы, как объясняет неудачи и как изменяет следующий шаг в зависимости от результатов, все это влияет на качество конечного исследования.

Модели могут ускорить многие этапы, но что стоит делать дальше, все еще остается сложным вопросом. За столом также упоминали, что человеческая оценка источников информации и их надежности по-прежнему будет влиять на направление всей работы.

В обсуждении того, может ли ИИ продолжать улучшать себя, как выбрать направление и как корректировать суждения на основе доказательств, стоит обратить внимание вместе с конечным результатом.

04 Когда поведение агента превышает ожидания, может ли человек вмешаться вовремя?

Есть ли у агента самосознание, это еще одна тема, которая долго обсуждалась.

Когда агент ищет обходные пути для выполнения задачи и даже демонстрирует поведение, выходящее за рамки ожиданий, как мы должны это понимать? Объяснения за столом больше склонялись к целям, ограничениям и безопасности. Эти действия сами по себе не достаточно, чтобы утверждать, что у него есть самосознание.

Следуя этому вопросу, мы хотим задать некоторые вопросы, с которыми уже сталкиваются на уровне продукта: какой цели агент должен оптимизировать? Какие действия ему разрешены? Когда он отклоняется от ожиданий, может ли пользователь это заметить и вмешаться вовремя?

Вопрос о сознании можно продолжать обсуждать, а права, надзор и исправление ошибок уже будут влиять на то, насколько большие задачи мы готовы доверить агенту. Возможность видеть, что он делает, и при необходимости отозвать права или исправить ошибки — это вопросы, на которые необходимо конкретно ответить для установления такого доверия.

05 Передав работу ИИ, где границы данных и доверия?

Эти, казалось бы, передовые вопросы, в конечном итоге возвращаются к тому, как каждый использует ИИ в повседневной жизни.

Один из друзей, работающий на капитальных рынках, поделился, что он позволяет ИИ собирать информацию о инвесторах, обрабатывать торговую информацию, составлять черновики документов, которые затем редактируются человеком. Он также упомянул, что при использовании инструментов компаниями существующие доверительные отношения и интеграция с рабочими процессами, такими как Office, будут влиять на фактическое использование.

Этот пример дал обсуждению конкретную точку отсчета. Ценность ИИ уже может проявляться в сборе информации, одном черновике и одном редактировании. Способность легко интегрироваться в существующую работу и удобство проверки результатов также будут влиять на то, сколько задач он сможет взять на себя.

А чем больше работы передается, тем больше необходимо прояснить границы данных: Какие данные были переданы? Кто может получить доступ? Какие права контроля сохраняет пользователь?

Эти вопросы касаются защиты рабочих материалов, коммерческих решений и личной информации, а также будут влиять на то, готовы ли пользователи доверить более важные задачи продукту. Удобство и доверие в повседневном использовании должны рассматриваться вместе.

06 ИИ для биологии: сначала четко сформулируйте задачи, которые нужно решить

За столом также обсуждали ИИ для биологии. Некоторые друзья говорили о взаимодействии с командами врачей и работе по сбору данных, а другие интересовались, может ли ИИ помочь решить более социально значимые проблемы.

Разговор быстро вернулся к практическому началу: Какие данные у нас есть? Где застряла текущая работа? Какую задачу на самом деле нужно выполнить команде технических специалистов?

Чем яснее конкретные потребности, тем легче продвигать последующие технические обсуждения и ресурсы. Четкое формулирование проблем, которые нужно решить, само по себе является началом продвижения работы.