ProstoTECH - Новости современных технологий 2017 года

Последние новости

10:04
Артем Щепинов рассказал, почему реестр оборудования для майнинга выгоден как властям, так и участникам рынка
20:39
От Музея Фаберже в Петербурге запустили новые водные маршруты
19:47
Новый бизнес-проект поможет КСК выйти на премиальный уровень
01:34
C# возглавил рейтинг самых обсуждаемых языков программирования
00:37
Импортозамещение, которое никак не складывается
18:56
Трамп возвращает асбест: в США собираются отменить запрет на хризотил
00:24
Тренды 2025: три простых приема зонирования пространства без ремонта
13:12
В состав рабочей группы проекта развития ИТС включены представители компании "Русский Свет"
22:12
Запуск обновлённой системы БЭСТ для осуществления денежных переводов - это инновационное решение
23:23
На Красной Поляне открыли скульптуру «Одуванчик добра» в рамках VI Форума Aguteens
21:07
Десятки острых вопросов отрасли обозначили фермеры на форуме в Нижнем Новгороде
12:06
Бренд Планета Лайка представил новинки для ухода за домашними животными
10:24
ТЕХНОНИКОЛЬ выводит на рынок новинку – геомембрану
12:49
Баста даст второй стадионный лайв в Казани в 2026 году
01:23
Стратегии роста российского бизнеса обсудили на E+ Grand Summer Forum
10:12
В августе 2025 года в Ивановской области пройдёт пленэр для молодых художников
00:59
Развитие шинного производства стало частью повестки народного праздника
18:45
На «Движении» презентовали проект индустриальной многоэтажной недвижимости в Москве
20:53
Треть ТЦ в столице и две трети в регионах не связаны с метро
19:24
Алексей Кузовкин: ИИ автоматизирует до 70 % рутинных задач SOC-аналитиков
00:22
Обзор: недвижимость Крыма в 2025 году. Топ-5 наиболее перспективных городов Крыма
22:07
Добро и семья — центр внимания международного кинофестиваля в Ярославле
20:26
Народные инвестиции как средство превращения микропредприятий в малые и средние бизнесы и мощный драйвер развития экономики страны
20:40
Интелион, Русэнергосбыт и ГРЭНСО подписали соглашение о сотрудничестве
22:04
Автоматизация и автономность. Военные применения ИИ
14:21
В Москве пройдет третий ежегодный E+ Grand Summer Forum
11:17
Цифровой след стройки: как исключить недобросовестных подрядчиков
23:58
Professional FM расширяет сотрудничество с «МонАрх Сервис»
00:31
Паспорт надежности: В России представлена система оценки строительных подрядчиков
00:47
Велосипедные дорожки, дворы без машин и искусственный водоем: как в Крыму переосмысливают комфорт микрорайона
08:44
«По памяти» и поиск себя: философия нового альбома Димы Билана «Vector V»
00:21
93% компаний сталкиваются с дефицитом навыков у соискателей
21:15
Новый просветительский проект «Много толку» стартовал
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
6 206


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments