ProstoTECH - Новости современных технологий 2017 года

Последние новости

01:53
Компания KAMA TYRES продолжает активно развивать сотрудничество с ключевыми партнёрами
21:39
Специалиста KAMA TYRES включили в реестр профессиональных инженеров России
18:39
Москва в фокусе: «Вектор трендов» открывает новые горизонты для начинающих fashion-фотографов
23:38
Адаптивное лидерство против стресса: как развить самостоятельность сотрудников и не выгореть
20:33
Производство полимерной серы для шинной промышленности появится в России
23:44
Компания KAMA TYRES стала участницей специализированной выставки, посвящённой транспортной отрасли
17:57
Асбестовые огнеметчики: как защищали войска в Первую мировую войну
21:15
На рынке шин отмечен рост интереса к экологическим моделям
00:29
Российские инженеры получили доступ к онлайн-сервисам BIM-проектирования
19:09
«Россети» обновили опоры магистральных ЛЭП, обеспечивающих электроснабжение Оренбургской области
18:06
Крупнейшие автопроизводители выступают за отмену запрета хризотила
19:38
Современные тенденции в строительной сфере: как девелоперы улучшают рабочие процессы
11:24
США могут пересмотреть запрет на асбест в производстве автомобилей
19:23
К столетию выдающегося литературоведа в ИвГУ организовали «Розановские Чтения»
19:05
Элитная недвижимость на курортах: женщины становятся ключевыми покупателями
09:54
Искусственный интеллект для волос: как iHairium меняет рынок трихологии
11:28
Корпорация «Термекс» укрепляет партнерские отношения с сетью «Афоня.РФ»
20:14
Эльвира Глухова, руководитель холдинга «Кредитор», сообщила о покупке микрофинансовой организации «Ипотечный экспресс»
21:27
Человекоцентричный HR: как бизнес меняет подход к сотрудникам
20:11
Банк Уралсиб инициировал проект, направленный на поддержку студентов и выпускников, работающих в области информационных технологий
19:17
ОТП Банк и другие бренды использовали инфоповод с Юрой Борисовым
22:48
На рынок вышел новый типоразмер индустриальных шин KAMA
19:51
Перераспределение табачных акцизов: ключ к борьбе с нелегальным рынком
16:48
Грузовые шины KAMA NU 401 в списке «100 лучших товаров России»
17:47
Центробанк вводит спецкнопку для борьбы с кибермошенниками в финансовых учреждениях
00:03
Борис Грумбков получил высшую награду Министерства юстиции
19:07
Запущено производство новых зимних шин Viatti
19:22
От массовой застройки к качественному жилью: эксперты о будущем строительного рынка
21:44
«Термекс» обучает сотрудников «Лемана ПРО» на базе завода «Тепловое оборудование»
15:26
Бесплатная защита от самых мощных кибератак
20:55
Алексей Кузовкин: защита серверов должна быть многослойной
16:18
МЗ СОТРАНС выполнил поставку полуприцепов для Спецсвязи
18:43
Эксперт рассказал, как защитить инвестиции в частное домостроение
Больше новостей
» » Ведущие державы мира должны сделать ИИ безопасным, считают эксперты
-

Ведущие державы мира должны сделать ИИ безопасным, считают эксперты

Поделиться:
Softnews
1 923


Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.”


Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе:


?          Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ.


?          “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ.


?          Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ).


Целями такого договора являются:


?          Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта.


?          Обеспечение доступа к благам ИИ для всех людей.


Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года.


Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».


Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Система комментирования SigComments