Summary  
This chapter introduces bias in AI systems by examining how data bias, algorithmic bias, and societal bias can lead to systematic and unfair discrimination in model outcomes.

General domain of usage  
Recruitment (hiring)

Упередженість в штучному інтелекті означає **систематичну та несправедливу дискримінацію**, яка виникає у результатах роботи систем штучного інтелекту. Така упередженість може проявлятися у різних формах, кожна з яких має свої унікальні причини та наслідки. Найбільш поширеними є **упередженість у даних**, **алгоритмічна упередженість** та **соціальна упередженість**.

- **Упередженість у даних** виникає, коли дані, використані для навчання моделі ШІ, не є репрезентативними для ширшої популяції або містять вбудовані упередження;
- **Алгоритмічна упередженість** виникає через особливості розробки самих алгоритмів, наприклад, спосіб вибору ознак або обробки вхідних даних моделлю;
- **Соціальна упередженість** відображає вплив ширших соціальних нерівностей та припущень, які несвідомо закладаються у системи ШІ.

Розуміння цих типів упередженості є важливим, оскільки вони можуть призводити до несправедливих, неточних або навіть шкідливих рішень при використанні ШІ у реальних застосуваннях.

**Упередженість**: систематична та несправедлива дискримінація у результатах роботи ШІ, що часто виникає через недоліки у даних, алгоритмах або під впливом суспільних чинників.

Визначення: Упередженість

Існує багато реальних випадків, коли **упередженість у ШІ** призводила до значної шкоди:

- У сфері найму: деякі **інструменти для рекрутингу на основі ШІ** віддавали перевагу чоловікам перед жінками, оскільки їхні навчальні дані відображали історичну гендерну нерівність у певних галузях;
- У кримінальному правосудді: **алгоритми оцінки ризиків** призначали вищі ризикові бали представникам меншин, підсилюючи існуючі соціальні нерівності;
- У сфері охорони здоров'я: **діагностичні інструменти**, навчені на даних переважно однієї демографічної групи, показували гірші результати при використанні для пацієнтів з недостатньо представлених груп.

Ці приклади підкреслюють, чому подолання **упередженості у ШІ** є не лише технічною задачею, а й важливою етичною відповідальністю.

Який із наведених сценаріїв найкраще ілюструє **упередженість даних** в AI-системі?

Доступне введення до основних етичних принципів, викликів і відповідальності у розробці та впровадженні штучного інтелекту. Курс призначений для початківців у сфері штучного інтелекту та науки про дані, з акцентом на теорію та реальні наслідки.

Огляд основних етичних принципів, значення етики у сфері ШІ та основних викликів у цій галузі.

Заглиблення у поняття справедливості та упередженості в штучному інтелекті, а також важливість прозорості для етичних систем штучного інтелекту.

Дослідження обов'язків розробників ШІ, значення конфіденційності та ролі регулювання у відповідальному використанні ШІ.

Розуміння Упередженості в ШІ

Awesome!

Розуміння Упередженості в ШІ