Клаус Шваб: мы должны очень ответственно развивать искусственный интеллект

Клаус Шваб: мы должны очень ответственно развивать искусственный интеллект

Генеративный искусственный интеллект изменит мир, хотим мы этого или нет. И в этот ключевой момент развития технологии ИИ государственные и частные заинтересованные стороны должны сделать все от них зависящее, чтобы гарантировать честность, справедливость и устойчивость результатов развития ИИ. С такими акцентами вышел материал в издании Project Syndicate при авторстве основателя и президента Всемирного экономического форума в Давосе Клауса Шваба (Klaus Schwab).

В последние месяцы развитие искусственного интеллекта значительно ускорилось: такие генеративные системы ИИ, как ChatGPT и Midjourney, быстро трансформируют широкий спектр профессиональной деятельности и творческих процессов. Окно возможностей для правильного направления развития этой технологии для минимизации рисков и увеличения выгоды быстро закрывается.

Возможности, предоставляемые генеративными системами искусственного интеллекта, такие как ChatGPT, имея большие перспективы, требуют особого внимания со стороны государств по безопасности использования технологий искусственного интеллекта.

Практически все технологические достижения оказывают как положительное, так и негативное влияние на общество. С одной стороны, они способствовали росту экономической производительности и доходов, расширению доступа к информационным и коммуникационным технологиям, увеличению продолжительности жизни людей и улучшению всеобщего благосостояния. С другой стороны, они привели к перемещению работников, стагнации заработной платы, росту неравенства и растущей концентрации ресурсов среди отдельных лиц и корпораций.

ИИ не исключение. Системы генеративного ИИ открывают широкие возможности в таких областях, как дизайн продуктов, создание контента, открытие лекарств, здравоохранение, персонализированное обучение и оптимизация энергопотребления. В то же время, они могут оказаться крайне разрушительными и даже вредными для экономики и общества.

Риски, уже созданные продвинутым ИИ, и те, которые можно обоснованно предсказать, существенны. Помимо широкомасштабной переориентации рынков труда системы с многоязыковыми моделями могут увеличить распространение дезинформации и закрепить деструктивные предрассудки. Генеративный ИИ также грозит усугубить экономическое неравенство. Такие системы могут даже представлять собой экзистенциальный риск для человечества.

ChatGPT

Для некоторых это является поводом, чтобы притормозить исследования в области ИИ. В прошлом месяце более 1000 технологов в области ИИ, от Илона Маска до Стива Возняка, подписали открытое письмо, в котором рекомендовали лабораториям ИИ «немедленно приостановить» обучение систем, мощнее GPT-4, по меньшей мере на шесть месяцев. По их мнению, во время этой паузы следует разработать и внедрить комплекс общих протоколов безопасности, тщательно проверенных и контролируемых независимыми внешними экспертами.

Открытое письмо и вызванные им оживленные дебаты подчеркивают настоятельную необходимость в том, чтобы заинтересованные стороны приняли участие в процессе согласования общих рекомендаций по разработке и внедрению передового ИИ. Следует учитывать проблемы автоматизации и замещения рабочих мест, цифровой разрыв и концентрацию контроля за технологическими активами.

Уже появляются предложения по контролю искусственного интеллекта, в частности, в США и Европейском Союзе. Также свой вклад вносят такие организации, как Всемирный экономический форум. В 2021 году Форум создал Глобальную коалицию по цифровой безопасности, целью которой является объединение заинтересованных сторон в борьбе с вредоносным контентом в Интернете и содействие обмену передовым опытом в области регулирования безопасности в Интернете. Впоследствии Форум создал Инициативу цифрового доверия по обеспечению разработки ИИ в интересах общества.

Клаус Шваб призывает к неотложному сотрудничеству между государственным и частным сектором для решения проблем, связанных с появлением генеративного ИИ и достижения консенсуса по дальнейшим шагам по разработке и внедрению технологии. Для содействия прогрессу Форум в партнерстве с AI Commons — некоммерческой организацией, поддерживаемой специалистами-практиками в области ИИ, академическими кругами и неправительственными организациями, ориентированными на общее благо — проведет глобальный саммит по генеративному ИИ в Сан-Франциско 26-28 апреля. Заинтересованные стороны обсудят влияние технологии на бизнес, общество и планету и будут совместно работать над поиском путей смягчения негативных внешних факторов и достижения более безопасных, более устойчивых, более справедливых результатов.

В этот переломный момент в развитии технологий необходим общий подход, который позволит сделать все возможное для обеспечения соответствия ИИ общим интересам и ценностям человечества.