Вот принципиальные выводы из этой и ещё нескольких работ, посвященных теме ИИ против COVID-19.
Учёные приходят к непривычным, парадоксальным выводам: по состоянию на начало апреля 2020 г. они констатируют, что надежды на ИИ, как панацею против кризисов, оказались чрезмерно завышенными. Хотя возможно в будущем и произойдут изменения, в настоящее время такие технологические пакеты, как передача данных, телемедицина, традиционные разработанные еще в прошлом веке, диагностические инструменты и модели вносят в борьбу с распространением и преодолением эпидемий гораздо больший вклад, чем ИИ.
В результате опроса лиц, принимающих решения, медиков-вирусологов, представителей технологического бизнеса и науки, удалось выделить восемь соображений, заставляющих сформулировать скептическое мнение относительно претензий ИИ на роль ведущей технологии современного мира.
Первое. Обратите внимание на экспертов
Как показал опыт распознавания зарождения и распространения COVID-19, наиболее раннюю и адекватную информацию добыли отнюдь не алгоритмические системы и ИИ, ориентированные на распознавание слабых сигналов, а разведывательные агентства Великобритании и США, получившие сведения от своей агентуры в Китае и отслеживания научных докладов и сообщений экспертами-вирусологами.
Несмотря на все разговоры об алгоритмах и больших данных (БД), ИИ ни в одной стране мира не сделал сколько-нибудь точного прогноза о развитии эпидемии, начиная с первичной стадии в Ухани (Китай) до современной стадии в Европе, Америке и Азии. В решающей степени это связано с тем, что давно и хорошо известно аналитикам и прогнозистам: эффективное предсказание алгоритмическими системами и ИИ результатов того или иного процесса, относительно которого отсутствуют точные и достоверные данные, не только невозможно, но и вредно. При столкновении с плохо определенными проблемами и угрозами лучше действовать на основе опережающего реагирования, чем на основе долгосрочных вычислительных моделей. Для того, чтобы модели продолжали работать в будущем, необходимо иметь первоклассные, постоянно обновляемые данные, необходимого объема и подробной структуры по различным группам населения, факторам и условиям, связанным с пандемиями или иными катастрофическими процессами.
В ходе эпидемии COVID-19 выяснилось, что в то время, как расчеты ИИ показали свою несостоятельность, лучшие специалисты-эпидемиологи, использующие давно и хорошо известные статистические модели для изучения пандемий, смогли ещё в феврале сделать достаточно достоверные прогнозы. При этом любопытно, что прогнозы, которые правительствами ряда стран были положены в основу разработки противодействия COVID-19 и базировались на ИИ, оказались несостоятельными. Например, так называемая Манчестерская модель дала по Великобритании и Соединенным Штатам ошибку не на проценты, а в разы. В то же время опытные эпидемиологи, использующие простые математические модели смертности, а такая модель применительно к пандемии оспы датируется 1766 годом, а также модели математической эпидемиологии, созданные в 80-90-е годы прошлого века, широко использовались в Южной Корее, на Тайване, ряде других государств и позволили не только сделать достоверные прогнозы, но и разработать на этой основе политику противодействия, которая показала высокую эффективность.
По состоянию на начало апреля 2020 года не ИИ, а эпидемиологическая модель Кермака-Маккендрика, разработанная в 1927 г., позволяет наиболее точно прогнозировать ход эпидемии. При этом модель требует постоянной коррекции со стороны опытных эпидемиологов. Модель Андерсона Кермака и Уильяма Маккендрика известна сегодня, как модель SIR. Эта аббревиатура происходит от английских слов Susceptible — Infected — Recovered, буквально означающих «восприимчивые — инфицированные — выздоровевшие.
Именно старые, проверенные модели и опытные эпидемиологи, а не математики, статистики, специалисты по машинному обучению и программисты ИИ вносят сегодня решающий вклад в борьбу с эпидемией.
Не существует никакой ценности в ИИ и даже в математико-статистических моделях без экспертов и специалистов по форс-мажорным процессам. В последнее время сложилась практика называть ИИ любое использование математических, логических и статистических методов. Это неправильно. Большая часть математико-статистических методов благополучно существовала, когда ИИ не был описан даже в фантастических романах. Главная привлекательная черта ИИ по мнению эксплуатантов это – способность в рамках комбинаторных вычислений находить в данных дополнительные глубокие закономерности, на которые не обратили внимание люди. В отличие от моделей ИИ, которые изучают закономерности на исторических данных, и на основании этого прогнозируют процессы, эпидемиологи рассматривают статистические модели лишь как один из способов формулирования и проверки гипотез. Наряду с математическими методами, они широко используют качественный анализ и даже такую ненаучную вещь, как врачебная интуиция.
Использование ИИ для прогнозирования — с одной стороны, и для распознавания процессов и явлений – с другой, по-разному воспринимается эпидемиологами и используется в их практической работе. Недавно журналисты, затаив дыхание писали: «ИИ предсказал коронавирус», а цифры убеждали политиков в необходимости срочных мер на финансовых рынках, аргументируя это страшными цифрами смертности, которые прогнозировал ИИ.
Хрестоматийный пример: В феврале Президент США Д.Трамп и его медицинские консультанты уверяют общественность, что эпидемии коронавируса в США не будет. Затем к делу подключают один из наиболее мощных ИИ, работающих на оборону и разведку. Получив его ошеломительный прогноз, Д.Трамп выступает и сообщает, что в ближайшие месяцы от коронавируса умрёт 150-240 тыс. граждан. Выступление происходит в чрезвычайно напряжённой обстановке. Конгресс США решает судьбу 2,2 трлн. долларов, которые должны быть эмитированы на борьбу с последствиями коронавируса в американской экономике. После эмоционального выступления Д.Трампа Конгресс голосует – за. На крупнейшие американские банки и корпорации, а также немного на мелкий и средний бизнес и население обрушивается долларовый дождь. После принятия решения о беспрецедентной эмиссии, эксплуатанты ИИ выдают новый прогноз и сообщают, что смертность в США не должна превысить 25-30 тыс. человек. Впрочем, прогнозные цифры продолжают сыпаться как из рога изобилия и уже 18 апреля, выступая на представлении Программы помощи фермерам Трамп озвучивает новые цифры «пандемия коронавируса в США предположительно унесёт 60-65 тыс. жизней». Как говориться, любой каприз за ваши деньги.
Сегодня очевидно, никакой самостоятельной, исключительной ценности у ИИ пока нет. ИИ – это не более чем хорошо знакомая по 70-90 годам прошлого века, а теоретически описанная еще ранее, система поддержки работы экспертов, принимающих или советующих принять решения. В 70-90 годы прошлого века под названием экспертные системы успешно применялись в Пентагоне и крупнейших американских финансовых корпорациях.
Второе. ИИ нуждается в огромных данных
Журналисты, разработчики, собственники технологических компаний и инвесторы постоянно убеждали общество, что ИИ вот-вот превзойдет человека. Они доказывали это победами ИИ над человеком в шахматах и го, а также его триумфом над людьми в конкурсе Jeopardy. Однако, они не хотели открыть общественности, финансистам и политикам свою тайну. Она заключается в том, что эти победы были добыты благодаря хорошо известным с середины прошлого века методам распознавания шаблонов на основе комбинаторики и оптимизации. Для того, чтобы решить даже простую статичную задачу ИИ нужны тонны предварительных данных с заранее известными результатами. Кроме того, для обучения используется так называемое комплексное вычислительное моделирование. Без комбинаторики и комплексного вычислительного моделирования ИИ ничего не может сделать.
Это объясняет, почему ИИ не смог предсказать динамику и особенности COVID-19. У него просто отсутствовали данные о предыдущих аналогичных вспышках. COVID-19, судя по всему, это – принципиально иная вирусная конструкция, отличающаяся от известных человеку вирусов, порождавших эпидемии (отсюда – непрекращающиеся споры видных учёных об искусственном или природном возникновении COVID – 19). Однако разработчики и пользователи ИИ для прогнозирования динамики COVID-19 использовали исторические данные по ОРВИ, гриппу и т.п. Отсюда ошибки и просчёты.
Таким образом, в рамках скептического подхода к ИИ очень важно выяснить, на основе каких конкретных данных ИИ осуществляет прогноз развития пандемии принципиально нового вируса. Хотя инфекционные эпидемии значительно различаются по динамике и проявлению между собой из-за различных характеристик вируса, фактически прогнозы о распространении принципиально нового вируса ИИ строит по прежним данным, характеризующим совершенно другую вирусную картину. ИИ может эффективно прогнозировать и анализировать стандартные и рутинные процессы, однако бессилен в прогнозировании принципиально новых, не имевших аналогов в прошлом процессов. В данном случае ИИ просто не на чем учить.
Многие правительства возложили чрезмерные надежды на ИИ, забыв об уроках IBM Watson. Несмотря на первоначальные надежды, Watson так и не смог стать мощной медицинской системой, самостоятельно диагностирующей онкологические, сердечно-сосудистые и некоторые другие заболевания на ранних стадиях, как на это надеялась IBM. Если бы неудачи в использовании ИИ разбирались столь детально и тщательно, как успехи, то лица, принимающие решения, узнали бы, что основные ошибки Watson делал в тех случаях, когда различные болезни имели примерно схожие симптомы. При этом онкологи и кардиологи задачу диагностики решали на порядки более эффективно, чем Watson. При этом они высоко оценивали Watson как экспертную систему, позволяющую собирать, аккумулировать, структурировать данные и строить различного рода классификаторы и аналитические таблицы, помогающие медикам принять решения.
Уже в ходе текущей пандемии системы наблюдения, в том числе в Китае, увязывающие распознавания лиц с данными тепловизоров и измерения температур, первоначально использовались для выявления людей с подозрением на коронавирус и их изоляции. Однако достаточно быстро было установлено, что сама по себе повышенная температура, особенно в пределах 37.3 — 37.5 градусов не является значимым фактором при диагностике COVID-19.
Третье. Не доверяйте ИИ там, где требуется точность
Компания Аlibaba утверждает, что разработала платформу ИИ, которая использует КТ изображения для надежной диагностики COVID-19. В этой связи Bloomberg сообщает, что компания предлагает это диагностическое программное обеспечение странам ЕС бесплатно. Многие этому очень рады. В настоящее время диагностика COVID-19 осуществляется в рамках так называемой полимеразной цепной реакции (ПЦР). Она требует специализированного оборудования и предусматривает достаточно длительный период получения результата. Alibaba сообщает, что может получить анализ гораздо быстрее, дешевле, с 96% точностью.
Проблема, однако, в том, что лучшие профессионалы в области ИИ отлично знают, что при использовании машинного обучения точности 96% достичь очень и очень сложно. Как правило, эксплуатанты ИИ достаточно быстро выясняют, что на практике завышенный процент точности, полученный на учебных данных, недостижим. А соответственно диагностика и прогнозы гораздо более неточны, чем в рекламных материалах. То, что Alibaba утверждает, что ее модель хорошо работает, но при этом она не может раскрыть алгоритмы, является дополнительным аргументом в пользу сомнений и недоверия. При диагностике очень важно не допускать ошибок. Гораздо хуже ошибочно предположить, что человек с COVID-19 не болен (это может позволить ему продолжать заражать других), чем предположить, что здоровый человек имеет COVID-19. Неточная диагностика ИИ делает такую ситуацию весьма возможной.
Четвёртое. ИИ — перформанс и реальный мир
Обстоятельства, в которых развертывается ИИ, также могут иметь огромное значение и последствия для определения, насколько она эффективна. Когда модели ИИ, и это отлично знают инвесторы и финансисты, на которых прежде всего рассчитан ИИ, покидают лаборатории, центры разработки и начинают делать реальные прогнозы, они почти всегда ухудшают результаты и производительность по сравнению с их испытаниями у изготовителей. При оценке КТ, модель, которая может различать здоровых и тех, кто болен COVID-19, имеет большие шансы потерпеть наудачу, когда столкнется с пациентами, которые больны обычным регулярным гриппом (а ноябрь – начало апреля в Соединенных Штатах это – всегда сезон обычного гриппа). Соответственно модель будет считать больных гриппом больными COVID-19. Это приведет к еще большей перегрузке учреждений здравоохранения и заметно исказит картину действительного распространения эпидемии и ее интенсивности.
В недавней работе относительно использования ИИ для диагноза злокачественных родинок на основе распознавания образов было на конкретных цифрах, примерах и фотографиях показано, что зачастую модель принимала доброкачественные родинки за злокачественные. При этом, если модель использовалась в паре с опытным онкологом, то он быстро распознавал ошибку. Таким образом было твердо и достоверно установлено, что, как с точки зрения расхода средств, так и времени, экспертная система, где врачу помогает программно-вычислительный комплекс, гораздо более эффективна, чем ИИ как замена человеку.
Пятое. Компьютерные прогнозы должны корректироваться специалистами
В ситуациях с высокими ставками от ИИ требуется прогноз, который не только точен, но и позволяет принять адекватное решение человеком в форс-мажорных ситуациях. Это предполагает, что человек должен доверять ИИ и понимать, каким образом он пришел к тому или иному выводу аналитического, а тем более прогнозного характера. Между тем, в значительной степени под воздействием разработчиков ИИ лицам, принимающим решения, ИИ навязывается как полностью автономная система, принимающая финальное решение. Особенно это характерно сегодня для финансово-инвестиционной сферы, где роботизированные платформы без участия человека ежедневно осуществляют не менее 85% сделок на суммы в сотни миллиардов долларов.
Это полностью относится и к медицине. Например, уже в ходе нынешней эпидемии ИИ, связанные с распознаванием образов и температурным контролем, использовались для блокировки или напротив разрешения доступа в аэропорты, супермаркеты, аптеки и общественные места. На эти системы потрачены огромные средства, которые могли бы использоваться, например, для поставки медицинской техники. Как показывает опыт, такого рода использование ИИ достаточно быстро разочаровывает лиц, принимающих решения, в силу чрезвычайной неточности диагностики. Подавляющая часть людей с повышенной температурой, которые могли бы быть распознаны, как больные COVID-19 просто остаются дома и вызывают к себе друзей, родственников, доставщиков продуктов и т.п. Тем самым ключевая функция – изоляция больных от здоровых – не соблюдается, а дорогостоящие решения оказываются излишними.
Успешное использование ИИ, например, в системе Medicare свидетельствует о следующем. ИИ не должен выносить вердиктов. ИИ способен на распознавание с использованием большого числа данных подозрительных персон, окончательное решение по которым должны принимать не полицейские, а врачи-эпидемиологи.
Шестое. Избыточные ожидания
Wired опубликовал статью «ИИ-эпидемиолог послал первые предупреждения о вирусе в Ухане». Эта статья, опубликованная в январе, базируется на том, что компания ИИ BlueDot 31 декабря 2020 года сообщила о возможности вспышки нового заболевания. Тем не менее, мягко говоря, это не совсем так. Как сообщила ABC News, американская разведка предупредила администрацию Д.Трампа о появлении нового коронавируса вероятно в результате случайной утечки из лаборатории в Ухани ещё в ноябре 2019 года. Кроме того, в открытом доступе в интернете в конце декабря 2020 года появился видеоролик с обращением китайского врача о появлении опасного нового вируса. Однако Трамп и его администрация никак не среагировали и не предприняли никаких мер по подготовке страны к встрече с грозным вирусом.
В реальности BlueDot совместно с Бостонской детской больницей еще в 2018 года начал работать над принципиально новым проектом. Суть его в том, чтобы с использованием ИИ аккумулировать текстовые, аудио и видео материалы СМИ, интернет-платформ и блогеров, которые касаются вспышек новых и существующих инфекционных заболеваний и в целом обсуждений по поводу болезней. В рамках этой работы был создан комплекс раненого распознавания вирусных опасностей. В данном случае мы имеем пример не фейкового предсказания, а вполне адекватного и эффективного использования ИИ для обработки огромных массивов информации и выделения из них признаков, характеризующих возможность инфекционного заболевания. Это – классический пример использования ИИ по назначению, а именно для распознавания ранних сигналов и опережающего реагирования на них. После получения подобной информации в дело вступают вирусологи.
Таким образом, ИИ будучи весьма неточным прогнозистом, является неоценимым аналитиком для работы с огромными, разноформатными, в том числе неочищенными, данными. В данном случае ИИ не выносил вердиктов и тем более не прогнозировал, а привлекал внимание вирусологов к определенным аномальным явлениям и событиям. А дальше в дело вступали люди. Даже по мере совершенствования ИИ вряд ли он сможет разделять новые, но малоопасные и локальные вспышки заболеваний от ранних стадий глобальных пандемий.
Математики прошлого века в отличие от коммерсантов-компьютерщиков настоящего, особо оговаривали, что математико-статистические методы с использованием известных тогда моделей не могут предсказывать с высокой степенью вероятности редкие, а тем более уникальные или принципиально новые процессы и события. Новых математико-статистических методов не появилось и по сегодняшний день. Если не пытаться навязать ИИ функцию прогнозиста и машины, принимающей финальные решения, а использовать для распознавания (в том числе на основе зашумлённых данных, событий, объектов, субъектов и т.п.), то использование программно-аппаратных средств, ныне называемых ИИ, будет весьма полезным.
Например, в самом начале апреля 2020 года губернатор Калифорнии Гэри Ньюсом использовал BlueDot для распознавания потенциальных источников дальнейшего распространения вируса на основе больших массивов данных, характеризующих не только лиц, проживающих в штате, но и различные характеристики отдельных локаций, вплоть до кварталов, а также санитарного состояния в тех или иных районах.
ИИ используется губернатором не для прогнозирования хода эпидемии, а для снабжения эпидемиологов, администраторов и финансистов исходными данными для сосредоточения внимания медицинских машин, полиции, волонтеров, финансирования этих мероприятиях применительно к конкретным территориям и районам штата. Иными словами, ИИ используется для того, в чем он силен, а именно для классификации и нахождения новых, неочевидных критериев этой классификации в дополнение к традиционным.
Седьмое. Будут непредвиденные последствия
Реализация ИИ как правило имеет тревожные последствия второго порядка за пределами решений конкретной задачи, на которую нацелены программно-аппаратные комплексы. Например, предоставление ИИ права строить прогнозы, а тем более принимать решения предполагает небезопасное накопление особенно чувствительных для людей данных. Широкий, по сути, бесконтрольный доступ к медицинской, лечебной, а в отдельных случаях правовой конфиденциальной информации с одной стороны может передать компаниям-разработчикам недопустимые с точки зрения людей и общества данные, а с другой – является желанной добычей киберкриминала и объектом возможных утечек.
Для информации:
16 апреля 2020 г. заместитель помощника директора ФБР по борьбе с киберпреступностью Тоня Угорец заявила, что хакеры, действовавшие в интересах иностранных государств, взломали сети американских компаний, проводящих исследования COVID-19. Она рассказала об этом участникам интернет-дискуссии, организованной вашингтонским Институтом Аспена.
Угорец не уточнила названия хакерских группировок и государств, в чьих интересах действовали киберпреступники:
зафиксировано несколько вторжений в сети некоторых учреждений, особенно тех, что публично заявили о проведении исследований, связанных с COVID — 19.
Угорец отметила, что учреждения, которые работают над разработкой перспективной терапии или потенциальной вакцины, безусловно заинтересованы в публичном освещении своей деятельности. Тем не менее, по ее словам, в этом случае такими учреждениями начинают интересоваться «другие государства, заинтересованные в сборе подробностей» проводимых исследований и, возможно, даже в «краже конфиденциальной информации, которой обладают эти учреждения».
Представитель ФБР добавила, что хакерские группировки, поддерживаемые иностранными правительствами, часто атакуют биофармацевтическую промышленность, и подобные атаки только усилились с начала нынешнего кризиса, связанного с пандемией коронавируса.
В мире, где хакеры проникают даже в компьютеры АНБ, передача ИИ для расчётов детализированных данных по медицинской статистике и здравоохранению, само по себе высоко рисковое, может превратиться в гигантскую угрозу национальной безопасности, если эти данные окажутся у террористов и злонамеренных государств. Например, активное, но мало результативное использование ИИ для борьбы с коронавирусом уже предоставило в распоряжение не только крупнейших и крупных компаний, но и молодых многообещающих стартапов чрезвычайно чувствительные данные, такие как медицинская статистика, сведения о том, каким образом перемещались в глобальном, страновом и даже городском масштабе люди, с кем они общались, какие места посещали и т.п.
Для справки:
Объединившие усилия для борьбы с пандемией корпорации Apple и Google уже к середине мая 2020 г. обещают разработать интерфейсы, которые будут доступны всем странам и регионам.
Однако планы технологических гигантов беспокоят экспертов, считающих, что технология может дать властям и корпорациям небывалый контроль за гражданами, а анализы и медицинские карточки пользователей могут попасть в руки страховых и фармацевтических компаний, а также преступников и террористов.
Анонсированная корпорациями технология будет работать через Bluetooth-сигналы двух телефонов, которые сохраняют запись о близких и продолжительных контактах. Если у одного пользователя подтверждается коронавирус, система отправляет уведомление его недавним близким контактам — однако имя заразившегося человека не раскрывается.
Именно по этому принципу работает сингапурское приложение TraceTogether, ставшее образцом для всех западных аналогов.
Apple и Google обещают защищать конфиденциальность пользователей — все собранные данные будут храниться в телефоне и не смогут быть переданы никому без согласия пользователя. В отличие от технологий, применяемых в Израиле, Китае, Южной Корее и на Тайване, в этой системе данные GPS-локации не отслеживаются.
Они уверяют, что единой централизованной базы данных существовать не будет .
На брифингах с журналистами технологических изданий в понедельник представители корпораций пояснили: они сделают функцию цифрового отслеживания контактов доступной через обновления в операционных системах — iOS 13 для айфонов и айпадов и Google Play Services (элемент Android).
Таким образом, функция станет автоматически доступна всем владельцам телефонов Apple и смартфонов Android с версией 6.0 и новее — но останется добровольной, как и приложения.
Это решение — ключевой ответ на главную проблему цифрового отслеживания контактов. Для его эффективной работы власти должны следить за большинством населения (60%, по подсчетам оксфордских ученых). Однако вряд ли больше половины граждан любой страны сами скачают официальное приложение от властей. Зато встроенная в систему телефона функция, которую можно запустить моментально, может быть более популярной.
Apple и Google с выпуска программных интерфейсов, которые органы здравоохранения разных стран смогут интегрировать в собственные приложения. Эти интерфейсы будут доступны только официальным ведомствам здравоохранения отдельных стран и регионов. О планах использовать эти разработки уже заявили в Национальной службе здравоохранения Британии.
Уже после этого корпорации выпустят обновления в операционные системы, и тогда отслеживание контактов станет возможным без установки специального приложения.
Однако совсем без приложений система работать не будет: операционная система сможет послать сигнал о заражении близкого контакта, но для дальнейших инструкций пользователю нужно будет скачать местное приложение.
Едва ли не главной дилеммой цифрового отслеживания контактов стал вопрос о диагнозе. Если пользователь сможет ставить его себе сам, то технологию будут саботировать все желающие.
Но если диагноз будет привязан к анализу, то вся система не имеет смысла — сейчас на Западе тестируют только госпитализированных пациентов, политиков и знаменитостей; тестирование 60% населения представляется недоступным в обозримом будущем.
Корпорации ответили, что для оповещения контактов в их разработках нужно будет подтверждение диагноза от медицинского ведомства. Но речь не только об анализе — это может быть и диагноз от сертифицированного врача, основанный, например, на симптомах.
В настоящее время многие всерьез рассматривают возможность использовать в целях борьбы с криминалом, оптимизации управления и успешного разрешения чрезвычайных ситуаций китайский опыт социального контроля. Если не принимать во внимание многочисленные научные и медийные публикации на эту тему, то следует констатировать, что в настоящее время не только непонятна эффективность системы социального контроля в Китае, но и роль в этом ИИ и БД.
Создаётся впечатление, что в реальности система социального контроля – это не про ИИ и БД, а про соединение полицейского государства с системой тотального видеонаблюдения и анализа результатов видеонаблюдения по выбранным китайским руководством критериям. Главным в этом случае является отнюдь не ИИ и БД, а Большой Брат и сплошное видеонаблюдение. При соответствующей мощности сетей компьютеров эта задача решается в рамках программно-алгоритмических методов, разработанных математикой в 60-80-х годах прошлого века.
ИИ и БД являются своеобразными маркетинговыми игрушками и одновременно фигурами, отвлекающими внимание аналитиков и публики от подлинной сущности системы социального контроля.
Вывод о том, что ИИ сегодня это – прежде всего система сбора, накопления и распознавания или классификации тех или иных паттернов, подтверждает опыт компании Palantir. Как известно, Palantir начал эффективно использоваться в разведывательной, полицейской и финансовой деятельности задолго до бума ИИ и БД, в период продажи публике и бизнесу решений в области больших данных, как самой продвинутой инновации. Эта же платформа продолжает использоваться сегодня с большим успехом, но теперь именуется изготовителем не как цифровая платформа, а как продвинутая система ИИ.
Восьмое. ИИ и предвзятость
Возможно, самую серьезную озабоченность при использовании ИИ вызывает предвзятость. Поскольку ИИ в программной части это – прежде всего машинное обученные и глубинные нейронные сети, то предвзятость вносится в его работу некорректными данными. Как правило, защитники ИИ отвергают обвинения в предвзятости данных, например, в отношении женщин, расовых или языковых меньшинств тем, что как в процессе обучения, так и эксплуатации используются исключительно фактические, достоверные, а не придуманные данные.
Однако разработчики лукавят, либо плохо разбираются в социальных процессах. Социальные процессы отличаются от природных и биологических гораздо более высокой скоростью. Соответственно то, что справедливо сегодня, было ошибочно вчера и наоборот. Таким образом, в случае, если в силу тех или иных факторов некая группа меньшинства изменила свое поведение, то это будет иметь мало значения для ИИ. Он был обучен на основе старых данных, т.е. информации о том, что было вчера и изменилось сегодня. Если для анализа такие отклонения как минимум не вредны, а возможно даже и полезны, привлекая внимание к сути дела, то применительно к принятию решений и прогнозированию они делают их предвзятыми. Справедливо сделать вывод о том, что информированный скептик ИИ должен придерживаться предположения о том, что все модели ИИ являются предвзятыми, если специально не доказано обратное.
Будущее ИИ и БД — здоровый скептицизм
Несмотря на критические аспекты современного использования ИИ и БД в противодействии пандемии, будущее развитие ИИ и БД представляется оптимистичным и способным оказывать все возрастающую помощь лицам, принимающим решения, экспертам и пользователям. По завершении борьбы с коронавирусом необходимо провести детальный разбор используемых методов анализа и прогнозирования и на основании этого анализа сделать выводы относительно направлений дальнейшего совершенствования ИИ и БД в целях повышения его ценности для лиц, принимающих решения, аналитиков и пользователей.
ИИ и БД являются быстро прогрессирующим технологическим пакетом. Однако властям, общественности и бизнесу необходимо четко отделять реальный функционал ИИ и БД от нарочито оптимистичных его оценок, осуществляемых в маркетинговых и инвестиционных целях.
Итоги использования ИИ против COVID-19 умерят радужные и чрезмерные надежды на ИИ. Его перестанут считать господином мира и светлым будущим всего человечества. Тем не менее, нельзя с водой выплеснуть ребенка. ИИ – не просто крайне эффективен, но и заметно превосходит способности и возможности человека в скорости вычисления. Соответственно в тех случаях, когда стоит задача обнаружить в огромных массивах данных те или иные объекты и субъекты, распознать не воспринимаемые на первый взгляд закономерности, оптимизировать по заданным правилам те или иные процессы, ИИ не заменим.
***
Ещё в 1970 г. бывший советский разведчик, а затем известный ученый Юлиан Шейнин опубликовал провидческую книгу «Интегральный интеллект». В ней 50 лет назад он описал основные этапы формирования, развития и распространения ИИ, базирующегося на информационно-коммуникационных технологиях, разнообразных, в том числе параллельных и распределенных вычислениях и БД. При этом ИИ, согласно Шейнину, должен быть изначально интегрирован с человеческим интеллектом не только на уровне отдельных личностей и групп, но и целых экспертных сетей. Упор в интегральном интеллекте (именно так назвал Шейнин глобальную человеко-машинную систему – ныне интернет) должен быть сделан на созидателе, производителе, а не на пользователе и потребителе. Другими словами, интегральный интеллект должен был стать в первую очередь совокупностью экспертных систем поддержки принятия решения, а уж во вторую – поставщиком развлечений, контента, электронной коммерции и т.п.
От того, насколько быстро и искренне лица, принимающие решения разработчики и пользователи ИИ, откажутся от маркетинговых игрушек и сосредоточатся на объединении сильных сторон человека и машины, зависит наше Завтра.
http://zavtra.ru/blogs/iskusstvennij_intellekt_protiv_covid-19_nadezhdi_i_real_nost_
