Применение искусственного интеллекта в цифровой экономике. Наталья Васильевна Городнова
требуется еще и «экспертное», в ходе которого человек вручную указывает системе искусственного интеллекта, какие решения для данной задачи являются правильными, а какие нет. Как видно, необходима отладка, которая выглядит совершенно иначе, чем в процессе привычного программирования. Разумеется, созданный результат нужно тщательно тестировать, как и любую другую систему.
Приведем в качестве примера и негативный опыт применения ИИ, в частности, онлайн-ритейлер «Амазон» использовал алгоритмы ИИ в подборе кандидатов при приеме на работу. В целях оценки претендентов был разработан алгоритм, который обучался на анкетах ранее принятых в компанию сотрудников. В результате сотрудниковмужчин в штате компании стало гораздо больше, чем женщин, поскольку ИИ делал предпочтение в пользу кандидатов-мужчин. Были предприняты попытки осуществить корректировку программных алгоритмов, но полной уверенности в отсутствии дискриминации по каким-либо другим признакам достигнуто не было, и в 2017 г. руководство Амазона вынуждено было отказаться от применения систем ИИ в процессе подбора сотрудников.
Следует также отметить, что, как и у любой технологии, выявлены негативные последствия использования ИИ и проблемы, которые не устранены или требуют дополнительного контроля со стороны человека.
Во-первых, формирование новой нормативно-правовой базы, кто будет отвечать за ошибки роботов перед законом: проектировщик, разработчик, создавший алгоритм, или сотрудник, бухгалтер, оператор, не проверивший результат.
Во-вторых, сбор персональных данных, каким образом будет соблюдаться конфиденциальность данных, если машины будут анализировать здоровье, пол, возраст, распознавать лица автоматически, не запрашивая согласия человека. Кроме того, остается проблемой качество баз данных, на которых строятся модели и машинное обучение, поскольку огромный массив данных после очистки и предобработки может существенно сократиться и оказаться недостаточного объема для целей построения качественной модели для решения первоначальной задачи.
В-третьих, низкое качество и быстрое устаревание исходных данных, что может стать причиной получения неверных выводов при обучении и некорректных результатов.
В-четвертых, наличие человеческого фактора, поскольку люди (человек) становятся посредниками, автоматизаторами, контролерами для систем ИИ, и этот процесс неизбежно приводит к сокращению рабочих мест. Еще одна проблема, связанная с человеческим фактором, – это рост числа желающих работать в данной области и заниматься Data Science, однако простого знания теории на фоне отсутствия понимания тонкостей и специфики сферы, для которой решаются задачи, явно недостаточно.
Сегодня вполне реально применять алгоритмы ИИ в малом и среднем бизнесе при наличии достаточного объема и качества данных, которые обеспечат построение процесса эффективного обучения ИИ. В этих целях существует ряд доступных платформ, которые предоставляют свои мощности и инструменты для машинного обучения.