
האם האלגוריתם בודק אותנו - או דווקא מדיר
חישבו על חברה גדולה המשתמשת בתוכנת בינה מלאכותית כדי למיין אלפי קורות חיים בשניות. אין שם מנהל כוח אדם ששופט לחומרה, אין דעות קדומות גלויות, והתהליך אמור להיות מהיר, יעיל ונייטרלי לחלוטין. אך מה קורה כאשר מועמד עם מוגבלות שולח את מועמדותו?
כאן מתחילה תעלומה משפטית וטכנולוגית שמעטים נותנים עליה את הדעת.
בעוד שהמאבק המסורתי על זכויות אנשים עם מוגבלויות התמקד במרחב הפיזי – במדרגות, במעליות או בשילוט – החזית החדשה עברה אל מאחורי המסכים. מערכות ממוחשבות לומדות מנתוני עבר של החברה. אם ההיסטוריה הציגה מציאות שבה אנשים עם מוגבלויות הודרו מתעסוקה, המערכת עלולה "ללמוד" את הדפוס הזה ולהמשיך לשכפל אותו, הפעם באמתלה של יעילות טכנולוגית.
שלוש שאלות מרכזיות נותרות פתוחות וללא מענה משפטי ברור:
איך מגלים אפליה סמויה? כאשר אלגוריתם דוחה מועמד, קשה עד בלתי אפשרי לדעת מדוע. האם המערכת פסלה אותו מסיבות מוצדקות, או בגלל פרמטרים נסתרים שלא מותאמים לצרכיו?
מי הנושא באחריות? אם נפגע אדם מהחלטה אוטומטית, את מי תובעים? את המפתח שכתב את הקוד, את החברה העסקית שהפעילה את המערכת, או שמא את המכונה עצמה?
האם החוק הקיים רלוונטי? חוקי השוויון והנגישות נכתבו לעולם מוחשי של דלתות ומשרדים. הם אינם ערוכים להתמודד עם קופסאות שחורות דיגיטליות שמקבלות החלטות גורליות בחשאי.
האם הטכנולוגיה תהיה השער שיפתח הזדמנויות שוות לכולם, או שמא היא יוצרת מנגנון הדרה חדש, בלתי נראה ומורכב פי כמה לפענוח? התשובה נותרת תלויה ועומדת, והיא המבחן הגדול הבא של עולם המשפט.
הכותב, עו"ד ומגשר אברהם יאיר רואש, המתמודד עם שיתוק מוחין, עוסק בעריכת צוואות וייפוי כוח מתמשך וחבר בוועדה לקידום זכויות של אנשים עם מוגבלויות בלשכת עורכי הדין.




תגובות