ProstoTECH - Новости современных технологий 2017 года

Последние новости

19:47
Футуролог Феникс Фламм: ИИ в скором времени «уничтожит» поисковики
16:43
Эксперт: Новый год может стать самым прибыльным сезоном для маркетплейсов
15:43
Психологи фонда «Быть Человеком» обменялись опытом в вопросах кризисного консультирования
11:46
Лучшим брендом 2023 года потребители и эксперты назвали Lazurit
10:43
В Москве пройдет саммит модной индустрии
16:11
Компания PIONEER впервые выпустила цифровые токены для клиентов Альфа-Инвестиций
18:11
Россельхозбанк намерен усилить интенсивность импортозамещения
16:38
В России пройдет первый форум по сетевому бизнесу Multi Level Network 2023
15:41
Исследование по упоминаемости ESG-повестки среди банков страны провели Банки.ру и Phoenix
20:42
AQ в тренде: значимость адаптивного интеллекта для цифрового будущего обсудили на форуме «The Trends 2023»
19:16
KAMA TYRES усиливает свои позиции в категории шин Mud Terrain
17:34
Российский IT-эксперт рассказала о трендах в сфере информационных технологий на 2024 год
20:22
Артисты культурно-патриотического центра АНО «Армия и культура» выступили перед участниками СВО в Луганске
19:15
Журналистам из регионов РФ показали возможности медицинского туризма в Северную столицу
18:24
ГК «КОРТРОС» внедрила в Москве систему доступа в здание по BLE и Face ID
15:40
Как умное строительство может сделать жилье доступней
10:48
Команда Team Secret по Dota 2 объявила о кадровых перестановках
08:24
Инвалиды по зрению помогают бойцам СВО
10:28
Студентку вуза на Всероссийском экономическом собрании наградил Фонд Юрия Лужкова
10:54
Представители Magic рассказали об особенностях работы в бьюти-индустрии в рамках InterCHARM 2023
09:52
Тема экологии и устойчивого развития – основа видеокурса «Мастерской устойчивого развития»
22:46
Экоактивист Чингис Болотов рассказал молодежи БРО Союзмаш России о нюансах грантов
00:31
Botanica признан лучшим бизнес-центром года по версии премии Green Property Awards 2023
23:32
В Найроби ведутся переговоры о создании международного соглашения по борьбе с загрязнением пластиком
21:02
Компания PIONEER провела испытания фасадов жилого комплекса HIGH LIFE
18:53
Названы победители премии «Качество обслуживания и права потребителей»
17:26
Актуальные технологические тренды в промышленности
17:22
В рамках ПМГФ-2023 состоялось подписание соглашения о сотрудничестве между Isource и Sitronics Group
11:44
В третий раз международный форум по борьбе с информационным фальсификатом пройдет в Москве
07:58
Сезон водных прогулок по рекам и каналам Петербурга завершен
22:21
Вклад Юрия Лужкова в экономический потенциал страны помнят в сообществе экономистов
20:50
В КНАУФ рассказали о преимуществах гипсокартонных перегородок от блочных конструкций
19:11
DemoDay НИТУ МИСИС в партнерстве с CESCA
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
478


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments