ProstoTECH - Новости современных технологий 2017 года

Последние новости

19:21
Первый Конгресс Евразийского общества ольфактологов: обоняние как ключ к адаптивному интеллекту и психоэмоциональному состоянию
08:46
В Александрове Владимирской области новая школа объединит поколения победителей
22:38
E+ Awards 2025 назвал самые эффективные MarTech проекты в России
02:01
Ключевые вопросы и проблемы топливно-энергетического комплекса страны обсудили участники ММЭФ-2025
21:01
Сотрудники хризотилового комбината получили государственные награды
20:17
Петербургские метеоры начали экскурсионные поездки в крепость Орешек
01:26
Тимур Шарипов рассказал об изменениях предпочтений перевозчиков в выборе шин за последние годы
23:58
Тенденции на рынке шин для активного отдыха: KAMA TYRES на «Мотовесна 2025»
20:13
Компания «Яков и Партнеры» изучила перспективы развития цифровых технологий в медицине
20:40
В Международный день танца на платформе Leo Classics состоится показ гала-концерта фестиваля «Dance4Kids/Танец будущего»
20:34
HRD-встреча от клуба "Семья и корпоративная среда": фокус на баланс семьи и карьеры
23:56
Эксперт: ключевая ставка удерживает рынок недвижимости в стагнации
14:38
Цифровая безопасность в деталях: советы Алексея Кузовкина
23:26
Лауреаты фестиваля «Открытое искусство» выступили на гала-концертах вместе с признанными мастерами сцены
20:14
Почему квартиры становятся дороже и как могут измениться цены на жилье
09:14
Определены три студента РГУ нефти и газа Губкина – новые стипендиаты Фонда Юрия Лужкова
22:27
Работницы из KAMA TYRES стали лидерами конкурса «Женщина года» в трех номинациях
21:22
Цифровые технологии в деятельности торговых организаций: как инновационные методы трансформируют малый бизнес
00:37
Рынок туризма России
22:11
Вышел масштабный релиз CommuniGate Pro версии 6.5.1
21:45
Компания DOOGEE выходит на новый уровень в сегменте защищённых телефонов
00:47
Молодежь KAMA TYRES учится эффективной коммуникации на тренингах
20:54
«Агромаш ТПК» расширяет свое присутствие на рынке
01:01
Ускорение работы на 30%: новинка строительного рынка, которая меняет правила игры
19:08
Кибер-модели ярко представили новую эстетику и технологии на выставке-конгрессе в Москве
00:48
Эксперт рассказал, какие перспективы открывает новый этап строительного партнёрства
22:27
Выпущена новая версия 7.0 программы резервного копирования файлов Exiland Backup
00:18
Отмена отмены: вернется ли хризотил в США?
17:27
Женщине, которая всё отдала ради своего ребёнка, подарили машину и квартиру
22:17
В России дан старт международной олимпиаде по информационным технологиям
10:27
На выставке NatMall обсудят реконструкцию торговых центров
23:44
В Новосибирске может появиться первая в мире «Улица искусственного интеллекта»
21:21
Десять российских специалистов, которые внесли значительный вклад в развитие и внедрение искусственного интеллекта
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
2 151


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments