נפל דבר בישראל, מכונה תקבע מי לשבט ומי לזכות. השבוע אישרה הממשלה את הצעת החוק של שמחה רוטמן, כי נשיא בית המשפט העליון לא יקבע את ההרכבים אלא בינה מלאכותית. באצטלה של קידמה מנסה רוטמן להגביל את כוחו של בית המשפט העליון. אך לא הקרב הפוליטי הקטנוני של רוטמן נגד בית המשפט העליון הוא במוקד. מדובר בהצעת חוק כל כך חתרנית, שהמשמעות שלה היא ייתור של מעורבות אנושית בתהליכים מרכזיים בחברה. כאשר אין אדם מעורב, מי אחראי בעצם? ויותר מכך, אם בבית המשפט אפשר לייתר מעורבות אנושית, מה עם תחומים אחרים?
לפני מספר חודשים עבר באיחוד האירופאי ה-AI Act, סט חוקים הבאים להסדיר את הרגולציה בתחום הבינה המלאכותית במדינות האיחוד. בליבת החוק עומד העיקרון כי בכל תהליך הנוגע לזולת, כלומר ייצור, חינוך, תוכנה, משטר, כלכלה ועוד, חייב להיות אדם הנושא באחריות ונותן דין וחשבון. בכל מקרה של עוולה, של טעות, שיהיה למי לבוא בתלונותס לחקור ולדרוש תיקון. הצעת החוק של רוטמן מייצרת מצב תקדימי לפיו יש מקומות בהם לא נדרש הפיקוח האנושי. חמור מזה, הוא מתחיל את הייתור בתהליכים משפטיים. המכונה תחליט מי יהיה השופט, דבר ששם אותנו כפסע מלאפשר למכונה להחליט בדינים שונים. אם המכונה קובעת מי מחליט, למה שלא ניתן לה גם לנהל סדרי דין משניים?
כותב שורות זה איננו לודיסט. הבינה המלאכותית יכולה לסייע בקידום האנושות. אך יש לזכור שהיא כלי ולא יותר מזה. צריך להכיר את המורכבויות של הכלי. המכונה איננה נטולת פניות. היא כוללת את כל ההטיות הערכיות של מפתחיה. סל המידע עליו אומנה כדי להציע את שתציע, נבחר ולוקט על ידי בני אדם. מדוע בחרו במידע כזה או אחר? האם אפשר להבטיח שהמכונה לא תסבול מהטיה, ולו המזערית ביותר נגד נשים, נגד ערבים, נגד חובשי כיפה או חרדים? וכך נשאלת השאלה, מי יתכנת את אותה בינה מלאכותית שמנחה את הצדק והמשפט? לפי אילו שיקולים ומדוע? האם רוטמן לא בעצם מעביר את האחריות לגוף עלום, שיבחר במכרז ממשלתי, ומותיר אותנו ללא פיקוח, נתונים לחסדי מכונות?
השימוש הבינה מלאכותיות כדי לקבוע מי יהיו השופטים בערכאות הצדק העליונות ביותר היא לכאורה מהלך מתקדם, המחובר לעתיד, אך איזה עתיד זה? עתיד שבו אין דין ואין דיין? עתיד שבו רובוטים קרים, שיד עלומה פיתחה, קודדה והגדירה את בסיס המידע המנחה אותם, מחליטים את הערכים המובילים אותנו?
צריך לשים את זה על השולחן. הצעת החוק באה לשרת צורך פוליטי, לקדם בעוד צעד את המלחמה המתמדת במערכת המשפט של הפופוליסטים בקואליציה. אך הצעה זו היא לא עוד תרגיל פוליטי. המכוון או לא במכוון שם רוטמן אקדח לרקת המפעל האנושי. אם תעבור היא תהווה תקדים מסוכן. אם יחליפו את השופט הבכיר ביותר בישראל במכונה, מתי יחליפו את המורים, השוטרים והרופאים? כמו שלא ראו רוטמן וחבריו את החברה במאבק על ההפיכה המשטרית ודהרו קדימה, לא משנה המחיר, גם עכשיו.
