מה זה החלטה אוטומטית?
Automated Decision-Making
החלטה לגבי אדם שמתקבלת על ידי מערכת, בלי מעורבות אנושית מהותית.
הסבר
סינון מועמדים, דירוג פניות, קביעת עדיפות טיפול, אישור או דחייה של בקשה. נפתחות שאלות מעבר להעברת המידע: מה הבסיס להחלטה, האם ניתן להסביר אותה, ומי אחראי לה.
המילה "מהותית" היא המפתח, והיא זו שנופלת. חתימה אנושית על החלטה שהתקבלה במערכת, בלי בחינה בפועל, אינה בהכרח מעורבות מהותית. אם המנהל מאשר תשעים ותשעה אחוז מההמלצות בלי לפתוח את התיק, המערכת מחליטה והוא מאשר.
דוגמה: מערכת גיוס מסננת קורות חיים לפני שאדם רואה אותם. מועמד נדחה, פונה ושואל מדוע. אם התשובה היא "המערכת קבעה", אין תשובה. וגרוע מכך: אם הקריטריון שהמערכת למדה כולל מאפיין שאסור להתחשב בו, למשל מפני שהיא אומנה על החלטות עבר שהיו מוטות, הארגון אינו יודע זאת, כי הוא לא בדק.
דוגמה שנייה: מערכת שקובעת עדיפות טיפול בפניות שירות. לקוחות בפלח מסוים ממתינים באופן שיטתי יותר, ואף אחד לא החליט על כך, זה תוצר של המשקלות.
מה שכדאי לבדוק לפני יישום: על מה המערכת אומנה, אילו מאפיינים משפיעים על התוצאה, האם ניתן להסביר החלטה בודדת, ומה התהליך כשאדם מערער.
זה תחום שמתפתח ומצדיק בדיקה פרטנית לפני יישום.
מה ההבדל ממונחים קרובים
פילוח
הערכת מאפיינים. ההחלטה האוטומטית היא מה שקורה כשהפילוח מתורגם לפעולה בלי אדם באמצע.
AI ופרטיות
התחום הרחב. ההחלטה האוטומטית היא ההיבט שבו השאלות המשפטיות חדות ביותר.
איפה זה פוגש ארגונים בפועל
"המערכת קבעה" אינה תשובה שאפשר לתת לאדם ואינה תשובה שאפשר לתת לרגולטור. ארגון שאינו יכול להסביר החלטה בודדת נמצא בפער, גם אם המערכת מדויקת.
להרחבה
מונחים קשורים
המונח הוא חלק ממילון מושגי הפרטיות. ההסבר הוא מידע כללי ואינו מהווה ייעוץ משפטי.