ProstoTECH - Новости современных технологий 2017 года

Последние новости

15:51
УК «Фемели Лайф» выбрана управляющей компанией для новых корпусов ЖК «Октябрьское поле»
21:13
Эксперт: Самым важным вложением в строительстве стал интеллектуальный капитал
20:44
CESCA — номинант и финалист премии в области информационных технологий «Приоритет: Цифра – 2024»
18:34
Компания DECOMP стала сервисным партнером по обслуживанию промышленных винтовых компрессоров для ООО «РОКВУЛ-СЕВЕР»
15:47
Российская IT-лаборатория разработала импортозамещающий вариант HRM-системы
21:23
Обходными путями: как российский бизнес сегодня ведет дела с зарубежными партнерами
21:04
КП «Британика» вышла в финал престижной Move Realty Awards-2024 в 5 номинациях
11:23
Как работают стратегии доверительного управления ИК «Фонтвьель»?
18:23
«Р7-Офис» представил масштабное обновление для всех редакторов документов
21:43
От Tesla до стройплощадки: как изменятся проекты в 2024 году
18:11
На книжной ярмарке non/fictio№ прошла презентация новых книг историка разведки и писателя Николая Долгополова
17:36
Жительницы из 44 стран мира и всех регионов России приняли участие в онлайн-проекте «Женщины» Мастерской управления «Сенеж»
22:33
Трафик дорожает — что делать предпринимателю
22:35
Музыкальная академия Ларисы Долиной при поддержке Россотрудничества впервые проведет интенсив для вокалистов и педагогов Беларуси, Узбекистана, Киргизии, Армении, Казахстана
18:43
Промышленные винтовые компрессоры для чистого производства
16:28
Спектакли проекта ВКонтакте «Театральный мир» можно посмотреть на Leo Classics
22:08
Инвестиция ВЭБ в Компанию О3 принесла свои плоды
20:45
Хилинг-отель Green Flow: релаксация на берегу Байкала
11:28
В МФТРК HOLLYWOOD в Санкт-Петербурге закрыт тепловой контур фасадов
11:02
Конец венчурной зимы: Евразийский центр инноваций рассказал о 50% росте стартап-активности
17:47
Лицензирование не решит проблем в сфере инфобизнеса, уверены в движении «Чеснок»
22:31
KAMA TYRES анонсировал новый бренд велосипедных шин КАМА VELTA
19:39
На гребне цифровизации: конкурс «Ты в игре» открывает новые технологии для ЗОЖ
17:46
Завершено обновление лаборатории предприятия KAMA TYRES
22:53
Нововведения в работе системы быстрых платежей для юрлиц с 1 апреля
21:17
Ник Рин рассказывает о перипетиях любви в своих песнях
15:19
ИОТ-университет – партнер Президентской академии
14:24
KAMA TYRES выступил спонсором российско-китайских зимних игр в Благовещенске
09:09
Компания «Фродекс» представила новое решение для мониторинга защищенности больших инфраструктур
19:48
Мелситек переходит на работу с российскими кристаллами
16:06
Маслостанцию с уникальным набором характеристик разработала «70Мпа-инжиниринг»
14:34
Обсуждайте проекты голосом: Pruffme внедрила аудиосвязь на досках
10:43
Как компьютерные игры развивают навыки, необходимые в изменчивой реальности
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
827


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments