Microsoft и OpenAI объявили о создании фонда в $2 миллиона для борьбы с растущими рисками использования искусственного интеллекта и deepfakes для 'обмана избирателей и подрыва демократии'.

В этом году на выборы в более чем 50 странах выйдут рекордные 2 миллиарда человек, поэтому существует опасения влияния искусственного интеллекта на избирателей, особенно на тех, кто находится в 'уязвимых сообществах', которые могут быть более подвержены влиянию информации на веру.

Появление генеративного искусственного интеллекта, включая чрезвычайно популярных чатботов, таких как ChatGPT, привело к появлению новой угрозы в виде deepfakes, созданных с целью распространения дезинформации. Не помогает тот факт, что данные новые инструменты широко доступны и позволяют любому создавать поддельные видео, фотографии или аудиозаписи высокопоставленных политических деятелей.

Еще в понедельник Индийская избирательная комиссия призвала политические партии избегать использования deepfakes и подобной дезинформации в своих онлайн-кампаниях во время выборов.

Именно на этом фоне все крупные технологические компании, включая Microsoft и OpenAI, подписали добровольные обязательства по борьбе с такими рисками, а также разработали планы по созданию общей структуры для борьбы с deepfakes, созданными специально для ввода избирателей в заблуждение.

Также крупные компании по искусственному интеллекту начали бороться с этими рисками, введя ограничения в своем программном обеспечении. Например, Google заявил, что не позволит своему чатботу Gemini AI отвечать на вопросы о выборах, в то время как компания-мать Facebook Meta также ограничивает ответы, связанные с выборами, через своего чатбота на искусственном интеллекте.

Ранее сегодня OpenAI запустила новый детектор deepfake для исследователей дезинформации, предназначенный для помощи в определении поддельного контента, созданного ее собственным генератором изображений DALL-E, в то время как она также присоединилась к руководящему комитету отраслевого объединения Коалиции за подлинность контента (C2PA), в котором уже числятся такие компании, как Adobe, Microsoft, Google и Intel.

Новый 'фонд общественной устойчивости' является частью более широкого общественного движения за 'ответственный' искусственный интеллект, сейчас Microsoft и OpenAI стремятся 'дальше просвещать и обучать население о искусственном интеллекте и его возможностях', как говорится в блоге, опубликованном компаниями сегодня. Это включает выделение грантов нескольким организациям, включая Older Adults Technology Services (OATS), Coalition for Content Provenance and Authenticity (C2PA), International Institute for Democracy and Electoral Assistance (International IDEA) и Partnership on AI (PAI).

По словам Microsoft, эти гранты призваны создать лучшее понимание искусственного интеллекта и его возможностей в обществе. Например, OATS, по-видимому, будет использовать свой грант на обучающие программы, направленные на лиц старше 50 лет в США, охватывающие 'основные аспекты искусственного интеллекта'.

'Запуск Фонда общественной устойчивости - всего лишь один шаг, который отражает обязательства Microsoft и OpenAI по решению вызовов и потребностей в области грамотности и образования в области искусственного интеллекта', - сказала в блоге Тереза Хатсон, вице-президент Майкрософт по технологиям и корпоративной ответственности. 'Microsoft и OpenAI останутся преданы этим работам, и мы будем продолжать сотрудничать с организациями и инициативами, разделяющими наши цели и ценности'.