IBM создала библиотеку Python с открытым исходным кодом под названием Uncertainty Qualification 360 или UQ360, которая предоставляет разработчикам и специалистам по обработке данных алгоритмы для количественной оценки неопределенности прогнозов машинного обучения с целью повышения прозрачности моделей машинного обучения и повышения доверия к ИИ.

Доступна с IBM Research, UQ360 направлен на решение проблем, возникающих, когда системы искусственного интеллекта, основанные на глубоком обучении, делают чрезмерно уверенные прогнозы. С помощью набора инструментов Python пользователям предоставляются алгоритмы для оптимизации процесса количественной оценки, оценки, улучшения и сообщения о неопределенности прогнозных моделей. В настоящее время инструментарий UQ360 предоставляет 11 алгоритмов для оценки различных типов неопределенностей, собранных за общим интерфейсом. IBM также предоставляет руководство по выбору алгоритмов и показателей UQ.

В IBM подчеркнули, что слишком самоуверенные прогнозы систем искусственного интеллекта могут иметь серьезные последствия. Приведенные примеры включали неуверенность чат-бота в том, когда аптека закрывается, в результате чего пациент не получает необходимое лекарство, а также важность для жизни и смерти надежных оценок неопределенности при обнаружении сепсиса. UQ раскрывает пределы и потенциальные точки отказа прогнозных моделей, позволяя ИИ выразить свою неуверенность и повышая безопасность развертывания.

Предыдущие усилия IBM по повышению доверия к ИИ включали Набор инструментов AI Fairness 360, что снижает предвзятость в моделях машинного обучения; в Набор инструментов состязательной устойчивости, которая представляет собой библиотеку Python для обеспечения безопасности машинного обучения; и Набор инструментов AI Explainability 360, который помогает пользователям понять, как модели машинного обучения предсказывают метки.

Авторские права © 2021 IDG Communications, Inc.


#Инструментарий #IBM #Python #измеряет #неопределенность #ИИ

Source link