Нью-Йорк хочет убедиться, что ИИ и алгоритмы, которые он использует, не предвзяты

Несмотря на то, что многие из нас, возможно, больше не знают об этом, сложные алгоритмы вместе с ИИ в некоторых случаях помогают таким городам, как Нью-Йорк, каждый день делать выбор в отношении всего места, из которого дети должны будут перейти в колледж, который Придется получить дополнительный скрининг от полиции, а в каких кварталах должны быть дополнительные каминные станции.

У этих программ есть перспектива помочь правительству быть более дружественным к окружающей среде, обрабатывая огромные объемы данных. например, образцы ДНК на местах преступлений. с высокой скоростью. Но когда эти программы выполняются плохо, они могут дополнительно вносить предвзятость в расовые, гендерные и изощренные формы, чтобы усугубить социальное неравенство. И хотя исследователи подтвердили, что ИИ также будет предвзятым на комбинированной стадии, пострадавшие от этих предубеждений не знают, когда это произойдет с ними.

Возьмем, к примеру, случай, когда чернокожие люди помечаются за более высокую плату с помощью набора правил оценки риска, используемых по всей стране для принятия решения о том, должен ли или нет уже быть осужден кто-либо, осужденный за уголовное преступление. условно-досрочное освобождение, среди различных ключевых уголовных выборов в рамках процедуры правосудия. Расследование ProPublica обнаружило, что устройство ошибочно маркировало черных обвиняемых как долгосрочных преступников практически в два раза быстрее белых обвиняемых.

В отличие от звонка, сделанного человеком, не существует постоянного подхода к привлечению ненадлежащего решения, сделанного с помощью набора правил. из-за неуклонно непостижимого «черного поля» здравого суждения, которое определяет исследования ИИ. И это уже не самые удобные предприятия в системе уголовного и уголовного правосудия, которые используют некоторые из этих механизмов. В соответствии с отчетом, запущенным в последние 12 месяцев с помощью аналитической бригады AI Now Institute, предприятия социального обеспечения используют алгоритмы для принятия решения о том, с какими домохозяйствами нужно будет поговорить с социальным работником. Жилищные предприятия используют их для определения приоритетов тех, кто должен получить временное или вечное убежище. Предприятия благосостояния используют инструмент от таких дистрибьюторов, как IBM, чтобы оценить, кто будет иметь право на получение Medicaid.

Городской совет Нью-Йорка в 2017 году принял закон, который может создать уникальное давление на рабочие места, чтобы исследовать использование алгоритмов городскими предприятиями и предоставить отчет с предложениями. Многие приветствовали этот переход как беспрецедентный случай, когда политики, продвигающиеся вперед в эпоху, оказывают умеренное влияние на общество, чем пытаются справиться с его наказаниями.

Однако сейчас, спустя 12 месяцев и частично, ряд сотрудников, ответственных за дежурное давление, и профессионалы на открытом воздухе, аналогичные представителям AI Now и Информации. Институт анализа общества говорит, что они обеспокоены тем, что банда не сможет увидеть свой проект. Они ссылаются на незнание того, как именно город использует эти алгоритмы, но многие из них, тем не менее, скрыты в секрете.

Те профессионалы, которые еще больше страдают от потери публики, поступают от других людей, чья повседневная жизнь, вероятно, наносит ущерб алгоритмами. Страх, связанный с некогда многообещающей миссией, свидетельствует о том, что даже если центральный орган власти приложит усилия для регулирования новой эры, такой как ИИ, реализация может оказаться слишком сложной для поддержания. Дополнительное беспокойство вызывает тот факт, что многие алгоритмы принадлежат и управляются через личные корпорации совместно с Microsoft, Amazon и IBM, и то, как они выпекаются, также будет защищено как бизнес-секреты и методы. Однако, без подсказок, которые он желает, служебное давление застопорилось в его исследовании.

Нью-Йорк рассчитывает на синтетический интеллект

Читайте так же

YouTube Stories получает поддержку инструментов AR... Особенности Это позволит пользователям добавлять маски, очки, 3D-шляпы и т. Д. В свои селфи Мы используем ML для определения приблизительной трехмерной геометрии поверхности: инженер Google AI Facebook и Instagram уже поддерживают фильтры AR ...
Как Настроить Принтер Через Wifi Роутер... Как подключить принтер через WiFi верно. Самые всераспространенные ошибки при подключении и настройке Если поглядеть на современные устройства для печати, то следует отметить, что в собственном большинстве собственном они имеют очень широкие многофун...
Приближается экстремальная жара... Пострадают до 200 миллионов человек в США и Канаде, что окажет давление на кондиционеры. Простые исправления могут помочь, когда ваш AC находится на фритюре. Приближается жара, которая побудила Национальную метеорологическую службу выпустить предуп...

«У Нью-Йорка есть удивительная альтернатива». заявила Джанет Хейвен, правительственный директор Института информации и общества, который когда-то был одним из каждого профессионала на открытом воздухе, который давал показания относительно давления на работу на публичных слушаниях в четверг. , «Тем не менее, время не за горами, чтобы отправить обещание этого кадра». Дежурное давление готово опубликовать публичный отчет, который должен появиться позже в течение этих 12 месяцев.

Самый важный контрольно-пропускной пункт: у других людей, находящихся под давлением, нет списка программ, которые они находят. Несмотря на неоднократные запросы, банда не смогла заплатить деньги за перечисление всех форм прикладных наук автоматического принятия решений, используемых городскими предприятиями. Представители административного центра мэра, которые сопредседатели дежурного давления, заявили, что составление записей такого рода может быть слишком исчерпывающим и что в некоторых случаях эти советы являются собственностью. Многие сторонние адвокаты называют это недостаточным оправданием. Однако это указывает на существенную обратную сторону для дежурного давления: как оно может установить явные предубеждения в эпоху, не выясняя, что именно эта эпоха?

«Вы не можете составить дорожную карту на более длительный срок, если не знаете место, где вы могли бы быть в последнее время». заявил Альберт Фокс Кан, правительственный директор организации «Надзор за эрой наблюдения», вероятно, большинство команд, приглашенных выступить на современная публика слушает. «Вы не можете построить полную структуру для [автоматизированных систем принятия решений], если вы не знаете, как выглядят эти механизмы».

Не удивительно, что городские предприятия не хотели бы раскрывать тонкие подробности о формах прикладных наук, которые они предоставляют, подобно прикладным наукам с предсказательной полицией, что, вероятно, сделает более простым для потенциальных преступников попадание под радар.

Еще одна причина, по которой административный центр мэра говорит, что они больше не делятся дополнительной информацией о том, как используются эти устройства, заключается в том, что в нем отсутствует прозрачное определение того, какие прикладные науки включены в период времени «программы автоматического разрешения». Некоторые утверждают, что технически даже электронная таблица может быть экземпляром автоматической машины для принятия решений.

Несмотря на то, что для города, безусловно, оказывается излишним тратить время на составление списка каждого файла Excel, используемого бюрократами, критики говорят, что все же не следует мешать им выяснять, вероятно, самые сложные прикладные науки, подобные ИИ, особенно те, которые с вероятностью нанести, вероятно, больше всего вреда в том случае, если они увековечивают предубеждения.

Без учета основных моментов профессионалы обеспокоены тем, что дежурное давление будет легче дать рекомендации по базовому покрытию умеренно, чем явные примеры того, как город может сделать свои алгоритмы более честными.

«Общие предложения могут быть бесполезны», заявил Хейвен. «Если город будет искать общие рекомендации, они могут взглянуть на стипендию».

Секретность в тайне

Критики также возражают против того, что они называют потерей общественной поддержки в этом вопросе.

Читайте так же

Видео За кулисами в CP Digital Photo Review... В течение последних нескольких дней мы делимся новостями и интересными продуктами с ежегодной выставки CP в Йокогаме, Япония. Тем не менее, есть и многое, что происходит за кулисами на шоу, как CP Мы собрали короткое видео, которое позволит вам присо...
Взлет AI на устройстве Программы, которые активируют AI на устройстве, учитывают интересы клиентов, и альтернативы для постоянно включенных, умных гаджетов огромны. Чтобы получить дополнительную информацию об этой передовой эре роста, которая уже на кону у строителей, OEM-...
Paytm уточняет, что он не взимает дополнительную п... Ранее сообщалось, что компания планировала взимать комиссию за транзакции. Компания цифровых платежей Paytm в понедельник опровергла сообщения о том, что собирается взимать с пользователей дополнительную сумму за цифровые транзакции на своей платфор...

До 12 месяцев дежурное давление встречалось 18 раз на закрытых конференциях. Те конференции не были записаны. Именно по этой причине команда стремилась создать «безопасную зону» для диалога, в соответствии с Джеффом Тхамкиттикасемом, директором по рабочим местам мэра и сопредседателем дежурного давления, который говорил о современных слушателях. Позже в этом месяце целевая группа проведет свою первую из двух конференций, открытых для широкой публики, которые, по словам профессионалов, давно просрочены. Кроме того, для представления публике существует веб-форма, которая когда-то была представлена ​​с небольшой помпой и в значительной степени неясна.

«Мы хотели бы, чтобы те люди, на которых это влияет. независимо от того, на какую школу собирается ходить их ребенок. или проблемы с жильем. мы хотели бы, чтобы у них был подход к осознанному пониманию того, как эти рисунки и рисунки используются. То, как такое давление на работу, вероятно, решает эти проблемы ». заявил Кан.

Это не значит, что ИИ не может. или не уже. оказывать благотворное влияние так же умно. Один из членов городского совета, Эрик Ульрих, рассказал о возможностях алгоритмов, помогающих установить людей, склонных к наркотической зависимости или диабету, после которых правительство помогает снабжать людей профилактическими продуктами и услугами. Он заявил, что такое снаряжение «вполне может быть очень полезно в случае опиоидной катастрофы на данный момент» или для того, чтобы спасти вас от диабета, однако заявил о желании обеспечить стабильность частной жизни. «В конце концов, это не индустрия людей, которую кто-то ел на ужин в последний вечер». заявил он.

Любой другой член городского совета Нью-Йорка, Брэд Ландер, попросил специалистов прислушаться к «консультациям в режиме реального времени» относительно справедливости предлагаемой им новой машины, предназначенной для сокращения безрассудных водителей на шоссе. Его план должен был создать машину, чтобы отмечать людей с ненормально лучшим набором повторяющихся безрассудных нарушений. Федеральное правительство тогда предпримет шаги, чтобы вмешаться, подобно тому, как они требуют, чтобы люди брали использование классов, или в дополнительных чрезмерных случаях, даже отозвали их водительские права в случае, если они не вносят коррективы.

Когда-то это был очаровательный сценарий использования и пример того фактора, который целевая группа могла бы оценить всесторонне как часть более широкой структуры, чтобы убедиться, что такие программы честны. Однако в отсутствие этой процедуры то, что Ландер когда-то обязательно запрашивал, было рекомендацией «на лету» от двух некоммерческих лидеров, занимающихся искусственным интеллектом в комнате. Они обсуждали, какие знания входят в предложенные Ландером проблемы с машиной. Например, если он выбирает пурпурные мягкие нарушения с камер посетителей, сконцентрированных в кварталах с низким уровнем дохода, то машина может повторить присущую ей предвзятость в отличие от групп с низким уровнем дохода.

Что беспокоит, так это то, что широкая общественность не знает достаточно о различных программах, которые, очень похоже на план Ландера, могут привести к несправедливости в том случае, если они более не осуществляются с осторожностью.

Будет позором, если Нью-Йорк. город, в котором проживает один из важнейших специалистов в области моральных, технических и криминальных сложностей ИИ. не сможет удовлетворить свою цель. получить первостепенное значение для растущих советов, касающихся общественной полезности его использования. Поскольку мы наблюдали, как основные технологические корпорации снова и снова борются с саморегулированием своих собственных прикладных наук ИИ, это похоже на то, как правительство готовит почву. Если место с таким количеством активов, как в Нью-Йорке, не может определить это, кто будет?

Нью-Йорк хочет убедиться, что ИИ и алгоритмы, которые он использует, не предвзяты

Читайте так же

Galaxy S10 как раз соответствует Huawei P30 Pro &#... GALAXY S10. последняя модель от Samsung Huawei P30 Pro является новейшим из двух Android (Изображение: Huawei Samsung Getty) Galaxy S10 и P30 Pro являются двумя новейшими флагманскими смартфонами на рынке и являются одним из лучших аппаратных сред...
Джио покупает здесь Haptik Все компании Reliance J... Reliance Jio конкурирует, приобретая стартапы и технологические компании Reliance Jio ранее на этой неделе Хаптик, чтобы войти в разговорный искусственный интеллект В марте прошлого года Reliance Jio вывел Саавна на борт Reliance Jio также приобре...
LG G8 ThinQ практический, он может прочитать ваши ... G релизы LG были забавной вещью в последние годы. С одной стороны, они занимают важное место для компании на прославленном Mobile World Congress каждый год, но, с другой стороны, все больше и больше кажется, что серия G. это просто заполнитель, призв...

Author: dakus