Главная » 2021 » Март » 30 » Закон Гудхарта управляет человечеством

Добро пожаловать на PSIСHOLOGY&FUN
<--- Поддержи проект! Нажми "Рекомендовать сайт"


19:22
Закон Гудхарта управляет человечеством
Чарльз Гудхарт, главный советник по денежно-кредитной политике Банка Англии и профессор Лондонской школы экономики и политических наук в 1975 году при написании статьи сделал шутливое отступление, которое в последствии оказалось законом поведения человечества, а в дальнейшем главным багом фичей искусственного интеллекта. Это звучало так: - "... любая наблюдаемая статистическая закономерность склонна к разрушению, как только на неё оказывается давление с целью управления...".

Вы спросите, а в чем же это выражается? Приведем примеры.

Для ученых частое цитирование, это путь к должности и славе, поэтому соблазн манипулировать цитированием огромен. Сундарапандиан Вайдьянатан, ученый-компьютерщик из Технологического института Vel Tech R&D, получил награду от правительства Индии за то, что он входит в число лучших исследователей страны по продуктивности и цитируемости. Но в 2019 году журнал Nature разоблачил очень продуктивного ученого. Оказалось, что 94% цитирований его работ за 2017 год были сделаны им самим или его соавторами.

В 2015 году присяжные в Атланте признали 11 учителей виновными в давлении на учеников, родителей, своих коллег и в манипуляциях, что бы обмануть стандартизированные тесты, изменив и сфабриковав бланки ответов учащихся. Суперинтендант школы Беверли Холл должна была получить существенную премию, если результаты общесистемных тестов вырастут в достаточной степени.

Всемирный банк обнаружил, что в рейтинге по легкости ведения бизнеса начали стремительно расти Азербайджан, Китай, Саудовская Аравия и Объединенные Арабские Эмираты. Оказалось, что с "экспертами" которые делали замеры в этих странах проводилась определенная работа в виде подкупа и шантажа, чему и был посвящен  21-страничный обзор нарушений.

Wells Fargo & Co.  заплатила $ 480 млн. в 2018 году для урегулирования коллективного иска, в котором инвесторы обвинили банк в мошенничестве с ценными бумагами, связанном с несанкционированным открытием счетов для клиентов. Сотрудники Wells Fargo находились под сильным давлением с целью увеличения продаж финансовых продуктов, поэтому для достижения своих целей они просто подделывали новые учетные записи.

В 2018 году Банк международных расчетов обнаружил, что европейские банки нашли лазейки в требованиях в стандартах безопасности и устойчивости. Эта лазейка позволяла к концу каждого квартала "приукрашивать" финансовую отчетность, что создавало видимость респектабельности банков несмотря на грубейшие нарушения.

Чем сильнее зарегулирована система, тем резче проявляется это явление. Например в марте 1930 года, вышла статья Иосифа Сталина "Головокружение от успехов". В ней он пишет, что в ряде северных районов, где благоприятных условий для немедленной организации колхозов сравнительно меньше, чем в зерновых районах, стараются нередко подменить подготовительную работу по организации колхозов чиновничьим декретированием колхозного движения, бумажными резолюциями о росте колхозов, организацией бумажных колхозов, которых еще нет в действительности, но о "существовании" которых имеется куча хвастливых резолюций. В некоторых районах Туркестана, где благоприятных условий для немедленной организации колхозов еще меньше, чем в северных областях уже были попытки "догнать и перегнать" передовые районы СССР путем угрозы военной силой, путем угрозы лишить поливной воды и промтоваров тех крестьян, которые не хотят пока что идти в колхозы.

И таких примеров вы сами можете найти множество, достаточно вспомнить народную поговорку "Закон как столб - его нельзя перепрыгнуть, но можно обойти".

И если люди умеют хитрить и выкручиваться, то компьютеры умеют это делать еще лучше. Например, нейронная сеть, предназначенная для обнаружения пневмонии при сканировании грудной клетки, показала хорошие результаты в рамках одной больницы. Но проявила свою человеческую сущность, когда начала сканировать снимки из новых больниц. Оказалось, что система вместо просмотра сканированных изображений сосредоточила внимание на названиях больниц напечатанных на этикетках, из которых были получены сканированные изображения. В некоторых больницах заболеваемость пневмонией была выше и искусственные мозги не сильно утруждая себя распознаванием пневмонии на снимке, начали штамповать диагнозы ориентируясь на уровень заболеваемости в больницах.

Просмотров: 289 | Добавил: wpristav | Рейтинг: 0.0/0
Всего комментариев: 0
avatar

Онлайн радио #radiobells_script_hash
Новости партнёров