Data Interchange Biases And Its Impact On Algorithmic Fairness - Ghalachyan, Gevorg
Մեքենայական ուսուցման համակարգ կառուցելու համար անհրաժեշտ են տվյալներ, որոնք օգտագործելով կկառուցվի համակարգը, ալգորիթմ, որը պատմական փաստերի հիման վրա կկայացնի որոշումներ, և օգտագործողներ, որոնք համակարգի ազդեցության առաջնային կրողն են։ Շեղումներ կարող են առաջանալ նման համակարգերի կառուցման տարբեր փուլերում՝ ինքնուրույն, ինչպես նաև խմբային՝ որպես երևույթների փոխազդեցության հետևանք, խանգարելով համակարգի կառուցմանը, ինչպես նաև հետագա կատարելագործմանը, պահպանմանը։ Հոդվածում քննարկում ենք այն շեղումները, որոնք հանդիպում են տվյալների, ալգորիթմի և օգտագործողների միջև փոխազդեցության հետևանքով՝ զույգ առ զույգ։ Տվյալներից ալգորիթմ շեղումը մարդկանց կողմից պատմական կողմնակալության ազդեցությունն է, որը փոխանցվում է ալգորիթմին ուսուցման ընթացքում, ալգորիթմից օգտվողներ շեղումը տեղի է ունենում, երբ ալգորիթմում առկա է գիտելիքի անհամապատասխանություն օգտվողների բազմության հետ, և օգտվողներից ալգորիթմ շեղումը տվյալների հավաքագրման թերացումներն են օգտատերերի գործողությունների և փոխազդե-ցությունների պատճառով։ Մենք ներկայացրել ենք շեղումների ենթատեսակները, անդրադարձել դրանց ներկայացմանը այլ հեղինակների կողմից, ցույց տվել օրինակների միջոցով։ Նաև քննարկել ենք շեղման որոշ ենթատեսակներ ալգորիթմի արդարության տեսանկյունից․ որոշումների անհավասարակշռությունը սոցիալական խմբերում կարող են տարբերվել, հետևաբար և առաջացնել անհավասարություն կամ ունենալ այլ սոցիալ-տնտեսական հետևանքներ։ Для создания машинного обучения необходимы 3 вещи — данные, на основе которых будет построена система; алгоритм, который будет принимать решения на основе исторической справки, и пользователей, заинтересованных сторон, на которых система будет оказывать влияние. В этой статье мы обсудим предубеждения, которые могут возникнуть во время взаимодействия этих троих в паре. Смещение данных по отношению к алгоритму считается историческим предубеждением со стороны людей, которые переходят к алгоритму на этапе обучения, смещение алгоритма по отношению к пользователям происходит как несоответствие между популяцией пользователей и алгоритмическими знаниями, а смещение пользователей по отношению к данным — это дефекты в процессе сбора данных, основанные на при действиях и взаимодействиях пользователя. Мы интерпретируем каждый подтип смещения, делаем ссылку на предыдущее исследование и показываем его на примере. Также мы обсуждаем некоторые виды смещения в контексте алгоритмической справедливости, поскольку дисбаланс решений может проявляться в каждой группе по-разному и, следовательно, вызывать неравенство и его социально-демографические последствия.
Keywords: Economics