×

Белый Дом выпустил конституцию для роботов

Белый Дом выпустил конституцию для роботов

Администрация США опубликовала проект Билля о правах для защиты людей от искусственного интеллекта.

Белый Дом опубликовал Билль о правах искусственного интеллекта , который будет определять разработку, использование и развертывание автоматизированных систем в эпоху искусственного интеллекта. Предполагается, что использование ИИ регулируется 5-ю основными принципами:

1. Безопасность и эффективность систем.

Пользователи должны быть защищены от небезопасных или неэффективных систем. Безопасность этих систем должна быть подтверждена путем тестирования перед развертыванием, выявления и снижения рисков, а также постоянного мониторинга.

2. Защита от дискриминации со стороны алгоритмов.

Конструкция систем не должна позволять пользователям каким-либо образом сталкиваться с дискриминацией. В процессе проектирования системы должны пройти упреждающую оценку справедливости и независимое тестирование в будущем, а также должны быть доступны отчеты по тестам.

3. конфиденциальность данных.

Встроенные средства защиты конфиденциальности должны защищать пользователей от неправомерных действий с данными, позволяя им решать, как использовать свои данные.

Разработчики систем искусственного интеллекта должны уважать выбор потребителей в отношении конфиденциальности и принимать их согласие только в тех случаях, когда оно может быть дано надлежащим образом и осмысленно.

4. Уведомление и объяснение.

Пользователи должны иметь четкое представление о том, как используется ИИ и как это повлияет на них. Производители должны предоставить простое, но всестороннее объяснение, написанное понятным языком, относительно описаний, влияния и потенциального использования ИИ. Также разработчики должны уведомлять пользователей о значимых событиях или изменениях.

5. Человеческие альтернативы и откат.

Пользователи должны иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы, где это уместно. Возможность выбрать человека в качестве альтернативы машине должна быть доступна каждому.

Далее в документе объясняются возможные сценарии, в которых эти принципы могут быть реализованы.

Билль также называет злонамеренное использование данных и технологий одной из «серьезных проблем демократии» и призывает применять принципы к любой автоматизированной системе, которая может «потенциально повлиять на права, возможности или доступ американской общественности к критически важным ресурсам или услугам».

Также в документе поясняется, что неконтролируемый сбор данных в социальных сетях используется для того, чтобы угрожать возможностям людей, подрывать их конфиденциальность или постоянно отслеживать их действия — часто без их ведома или согласия.

0-day уязвимость Google заставляет программу поверить в ложные данные

Пользователям нужно срочно обновить Google Chrome, чтобы не потерять контроль над компьютером.

Мошенник вернет криптоинвестору украденные $20 млн.

Американец арестован за серию связанных краж криптовалюты на десятки миллионов долларов.

Стала известна причина масштабного сбоя в работе Microsoft в крупнейших странах мира

Некоторые функции продуктов Microsoft были недоступны в течение 10 часов.