Искуственный интеллект и право

[Lord Marlin]

Сообщение от Евгений 76

да. Только не может ИИ нести ответсвенность. И в тюрьму его не посадишь.

вы упорно не видите, что я постоянно пишу не про ии, а про компанию, которая разработал данный алгоритм?

[Евгений 76]

Сообщение от Lord Marlin

"компания разработчик алгоритма"

Вроде как да... Но, блин, общий алгоритм и конкретное решение под присмотром человека...

Добавлено через 51 секунду

Сообщение от Lord Marlin

вы упорно не видите, что я постоянно пишу не про ии, а про компанию, которая разработал данный алгоритм

Заметил, просто не успеваю за Вашими сообщениями

Добавлено через 5 минут
Рекомендует компьютер человеку оператору что-то сделать. Итоговое решение за человеком. Но компьютер же реально обработал быстро и качественно информацию, дает наиболее просчитанный вариант решения. Какое основание у человека не согласиться?
Хотя кнопку-то нажимает человек, его решение итоговое

[Lord Marlin]

Сообщение от Евгений 76

Но, блин, общий алгоритм и конкретное решение под присмотром человека...

сейчас есть упорное мнение, что должен быть отвественный в виде "опретора, принявшего решение".
в случае использовании того, что многие называют ии (ну или алгоритмов глубого и машинного обучения с использованеи нейросеток) присутсвие оператора вредно само по себе так как мы а) не понимаем и скорее всего никогда не сможем понять алгоритмы принятия решений такими системами и б) дичайшее замедление скорости реакции системы.

естесвенно убирать опретора прям сейчас категорически нельзя, так как алгоритмы обучения мягко говоря не совершенны. но уже четко понятно, что беспилотный автомобиль работает лучше, если шаловливые руки среднестатистического водятла не тянуться к рулю. причем все эти "делемы вагонетки" - это исчезающие малые проценты, практически пренебрежимые, случаев, которые могут произойти. а вот то. что ии будет избегать множества других аворийных ситауций пишут и говорят только специалисты.

о "дилеме вагонетки" пишут, потмоу что это хайп и потому что западное белое общество в целом достаточно ксенофобно и не очень критично мыслит и любит свои привелегии. это не означает, что они этим отличаются от других обществ, просто они явлются основным потербителем и\или производителем и\или финансируют практически всех и любых инноваций и логично ориентироваться на них и их культуру.

таким образом самым логичным будет убирать оператора как можно дальше и выдавать ему только крайне ораниченные полномочия в ситуациях, где машина не может принять решение. или где для принятия решения необходима какая либо экспетная оценка или консенсусное решение. причем это точно не должно быть по типу "едем в машине и тут внезапно автопило говорит, что он все -дальше сам" - ибо это прямой путь к полному трындецу.

в том виде как я это вижу будет постепенное снижение роли опреатора в силу скандалов с неправильными реешениями операторов. и стархованием отвественности разработчкиво алгоритмов, развитие системы экспертизы. я сильно подозреваю, что в итоге реальную юридическую отвественость будут нести только в случае, когда смогут найти и доказать, что о вохможной проблеме знали и скрыли. вообще по факту это и сейчас так действует в отношении фармы и пищевки. т.е. принципиально идейная база есть.

Добавлено через 28 секунд

Сообщение от Евгений 76

Заметил, просто не успеваю за Вашими сообщениями

я замедлился)))

Добавлено через 5 минут

Сообщение от Евгений 76

Но, блин, общий алгоритм и конкретное решение под присмотром человека...

в целом будет снижаться процент принятия репшенй оператором. не только мое имхо

Добавлено через 1 минуту
советую еще кстати погуглить каналы в телеграме. там довольно много народа, кто в этом разбирается и публикуют или свое или чужое.
ну и англоязычные источниники. там все активнее, особено если учесть хайп с метавселенной последние несколько месяцев

[Евгений 76]

Сообщение от Lord Marlin

о "дилеме вагонетки"

Вы еще более усложнили мой вопрос
Мне бы просто найти баланс между человеком и компьютером в ситуации без дилеммы вагонетки.
Хотя у нас же, вроде бы, допускается сбить самолет с террористами (фактически - принести в жертву сотню пассажиров) ради предотвращения теракта. Здесь юридически проблема уже решена

[Lord Marlin]

Сообщение от Евгений 76

Вы еще более усложнили мой вопрос

я имел ввиду, что народ вместо того, чтоб рассматривать чтото разумное начинает сразу смотреть на крайние и экстремальные ситуации вместо того, чтоб смотреть на чтото разумное и частотное.

Сообщение от Евгений 76

Мне бы просто найти баланс между человеком и компьютером в ситуации

я пытаюсь сформлировать мысль, что либо мы юзаем алгоритм и тогда вся отсвественость на тех,кто стоит за алгоритмом или мы юзаем оператора и тогда вся первичная ответсвеность на операторе.

если у оператора инструкция следовать рекомендации алгоритма всегда - вопрос зачем опреатор? и опреатор не может быть крайним, кроме случая когда он не выполнил инструкцию. если у оператора инструкция перепроверять алгоритм чем то другим - то крайний оператор по умолчанию, хотя если расследование покажет что был косяк проверочных методах, то крайний будет кто-то из тех, кто ответственен за них. если методы не идеальны и мы это точно знаем, то крайний оператор или разработчик алгоритма, который умышленно его исказил + страхование ответсвености ибо косяк может быть не умышленным и тот, который невохможно предусмотреть

[Евгений 76]

Сообщение от Lord Marlin

либо мы юзаем алгоритм и тогда вся отсвественость на тех,кто стоит за алгоритмом или мы юзаем оператора и тогда вся первичная ответсвеность на операторе.

Вот что в нормативке по этому поводу нашел:

Указ Президента РФ от 10.10.2019 N 490
"О развитии искусственного интеллекта в Российской Федерации"
(вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года")

...49. Основными направлениями создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта, являются:
...
в) создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства); http://www.consultant.ru/cons/cgi/on...u9MvSeLANpQNjB

[Павел ІІ]

Сообщение от Lord Marlin

о "дилеме вагонетки" пишут, потмоу что это хайп и потому что западное белое общество в целом достаточно ксенофобно и не очень критично мыслит и любит свои привелегии.

Какимъ образомъ проблема вагонетки связана съ ксенофобiей и "бѣлыми привилегiями"?

[Lord Marlin]

Сообщение от Павел ІІ

Какимъ образомъ проблема вагонетки связана съ ксенофобiей и "бѣлыми привилегiями"?

довольно сложно, но прямо. особено если взять дилему вагонетки как обощенный символ подобных этических проблем и игнорирование реальных проблем, и рассмотрение хайповых крайних случаев.

[Павел ІІ]

Яснѣе не стало

[Lord Marlin]

моя мысля была в том, что есть общество которое ставить себя и свои проблемы\переживания на первое место и не особо рефлексирует по этому поводу (как минимум те кто на верху пирамиды, хорошо образованные белые гетороксексуальные мужчины с хорошим английским). они правы и точка. то самое "бремя белого человека" и "явное предначертание". для них сама по себе идея, что они могут накосячит или что кто-то или что-то может принимать решения лучше них невозможна. поэтмоу они не готовы рассматривать примеры, когда возможны ошибки - те самые сильно частотные случаи, где тот же беспилотник будет гораздо безопастнее, чем человек, а толькоп примеры, где все очень сложно и не понятно. из раздела видити как сложно, мы сами не можем разобраться - куда там машине. плюс пресса, которая любит жаренное. осоебно штатовская, европейцы гораздо более сдержанные. вот и публикуют везде в широкой печати "а как же ии будет решать делему вагонетки?"

возможно, это глобус и сова, но у меня в голове вполне выстраивается такая штука. ну может с большим количеством оговорок и дополнений, но все писать влом.

интеретсный пример. в штатах белое население категорически против (более 70% опрошенных) ии судей, а вот авроамеркианцы и латиносы более 80 % за. ибо они не верят белым судьям. упс.
это кстати еще очень хорошо показывает, что блм движение- мягко говоря не только про грабеж магазинов.