Бывший вице-президент Google предупреждает о рисках ИИ для детей

Бывший вице-президент Google Том Сигал предупредил, что искусственный интеллект (ИИ) может нанести больший ущерб детям, чем социальные сети. Он заявил, что компании, занимающиеся ИИ, расширяют свои услуги без мер безопасности и призвал замедлить темпы разработки и установить независимые внешние стандарты безопасности. Сигал сообщил, что 22 числа он присоединился к организации по защите прав детей в интернете Common Sense Media в качестве первого исполнительного директора Института безопасности ИИ для молодежи. Он отметил, что влияние ИИ на детей является серьезным, и считать, что отрасль сама решит эту проблему, нереалистично. Сигал указал, что компании, занимающиеся ИИ, предлагают новые функции для детей, не создавая достаточных защитных мер. К рискам относятся самоубийства, психозы и когнитивная перегрузка. Он также сказал, что OpenAI и Anthropic могут ввести более строгие процедуры проверки возраста, чтобы ограничить доступ несовершеннолетних к чат-ботам. Google ответил, что родители могут заблокировать доступ своих детей к поисковым системам и что функции поиска ИИ полезны для обучения детей. Сигал обозначил создание независимых стандартов безопасности, которые могут привлечь компании к ответственности, как ключевую задачу, и сообщил о планах расширить систему оценки рисков инструментов ИИ, аналогичную краш-тестам автомобилей. Он предупредил, что компании должны заранее усиливать меры безопасности.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.