ProstoTECH - Новости современных технологий 2017 года

Последние новости

00:03
Анна Штейн готовится стать новой «Миссис Вселенная»
20:11
Целый ряд направлений в индустрии электроники успешно развивают отечественные производители
10:21
Вручение первой Международной премии мира им. Льва Толстого пройдет 9 сентября
23:50
Fix Price организует экологический субботник в Сочинском реабилитационном центре
16:27
Новая версия и новые возможности российской программы Exiland Backup 6.8
15:37
Зачет Adventure Trophy на «Шелковом пути 2024»
23:16
В компании «Фродекс» рассказали об интеграции системы Vulns.io Enterprise VM с SECURITM
21:29
Представленная на «Иннопром-2024» новинка Ростеха заменит американский софт в российских офисах
17:11
Startech запустила акселератор по выводу компаний на рынок Китая
10:57
Практические рекомендации от экспертов для вождения авто при сильном ветре
21:11
Дмитрий Добровольский стал лауреатом премии «Спорт и Россия»
18:10
Представитель компании «Фродекс» стал участником конференции форума ITSEC 2024
16:00
Заявить о себе бизнес-экспертам помогла масштабная конференция «MEDIA BOSS» в Перми
18:31
Компания «Фродекс» вышла на рынок с новым продуктом, который поможет снизить риск утечки данных в ритейле
21:56
Эксперты оценили ситуацию на загородном рынке недвижимости Санкт-Петербурга
19:36
Как сделать из жизни сказку
18:54
Восемь сотрудников нижнекамского шинного комплекса удостоены наград Минпромторга РТ
12:20
Завершение программ льготной ипотеки с господдержкой стало причиной роста объема продаж в коттеджных поселках
11:31
Рекомендации Алексея Кузовкина помогут уменьшить риски заражения компьютерных систем вредоносными файлами
21:36
Делобанк: 86% компаний и ИП готовы взять кредит для отработки возможных форс-мажоров
21:18
Российские предприятия демонстрируют впечатляющие успехи в импортозамещении
11:08
Лабораторный кластер в телефоне поможет строить качественно
02:55
Предприятия столицы расширяют производство осветительных приборов, укрепляя позиции в стратегии импортозамещения
22:10
В «Штрубе Рус» рассказали о вегетации подсолнечника
00:26
При выборе школы важно учитывать индивидуальные потребности ребенка
23:23
KAMA TYRES обозначил производственные планы
02:37
Бренды KAMA, Viatti и FORZA на Russia Halal Expo
20:45
Режиссер Александр Бруньковский представляет выставку и фильм «Расцветшая зима» 
19:37
Пять IT-инструментов для успешного развития бизнеса
17:08
Международная волонтерская программа «Миссия Добро» реализуется в Казахстане
14:08
Семейным фильмам-притчам будет уделено особое внимание на кинофестивале «В кругу семьи»
11:58
«Р7-Офис» представил летнее обновление для редакторов документов
11:12
РОСА и Р7 продолжают развивать совместное сотрудничество
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
1 042


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments