בינה מלאכותית מתארת קבוצה רחבה של מערכות חישוביות המבצעות משימות כגון זיהוי דפוסים, סיווג, חיזוי, הפקת תוכן והמלצה על פעולות. אף שתוצריהן עשויים להיראות מנומקים, עקביים ולעיתים אף אנושיים, פעולתן אינה זהה להבנה או לשיפוט אנושי. התוצאה נגזרת ממבנה המודל, מנתוני האימון, מן הקלט שנמסר לו, מן ההנחיות שניתנו ומפרמטרים המשפיעים על אופן ההפקה. פער זה בין מראית העין של התוצר לבין דרך היווצרותו הוא נקודת מוצא חיונית לכל דיון משפטי בו.
התפקיד קודם לסוג המערכת
החלוקה המקובלת בין מערכת אנליטית, המסווגת או חוזה על בסיס מידע קיים, לבין מערכת יוצרת, המפיקה טקסט, תמונה, קול או וידאו חדשים, מספקת תיאור טכנולוגי ראשוני בלבד. לצורך הערכה משפטית חשובה יותר השאלה איזה תפקיד מילאה המערכת במחזור חייו של המידע. אותה מערכת עשויה לשמש כלי פנימי לאיתור מסמכים, לתווך בין ראיה גולמית לבין המשתמש, להפיק מסקנה הסתברותית או ליצור חומר חדש המוצג כאילו תיעד אירוע ממשי. הסיכון המשפטי אינו נובע אפוא מן הארכיטקטורה כשלעצמה, אלא מן הפעולה, מן ההסתמכות עליה ומן המשקל שניתן לתוצאה.
ניתן להבחין בין חמישה תפקידים מרכזיים: יצירה או שינוי של חומר העשוי לשמש ראיה; תיווך של חומר קיים באמצעות תמלול, תרגום, שיפור, חיפוש או מיון; הסקת מסקנות מתוך ראיות; הכוונת חקירה באמצעות דירוגים, התאמות או תחזיות; וסיוע לבעלי תפקידים משפטיים במחקר, בסיכום ובניסוח. לכל תפקיד שאלת ביקורת שונה. ביצירה נבחנת בראש ובראשונה אותנטיותו של התוצר; בתיווך נבחנת נאמנותו למקור; בהסקה נבחנת תקפות המעבר מן הנתונים אל המסקנה; בהכוונת חקירה נבחנת השפעת המערכת על מה שנבדק ועל מה שנותר מחוץ לשדה הראייה; ובסיוע משפטי נבחנים דיוק, אימות ואחריות מקצועית.
ראיה סינתטית והספק בדבר הקשר למציאות
כאשר מערכת מסוגלת להפיק תצלום, הקלטה, מסמך או התכתבות הנחזים לאותנטיים, הספק הראייתי אינו מתמקד עוד רק בשאלה אם קובץ מסוים שונה לאחר יצירתו. הוא נוגע לשאלה מוקדמת ויסודית יותר: האם התוצר קשור לאירוע שהתרחש במציאות, או שמא הוא נוצר באופן סינתטי בלי שהיה לו מקור חיצוני ממשי. תוצר כזה עשוי להיות שלם לחלוטין מבחינה טכנית, לשמור על עקביות פנימית ולהציג פרטים משכנעים, ובכל זאת לתאר אדם, אמירה או התרחשות שלא התקיימו. השלמות הטכנית של האובייקט יכולה אפוא להעיד שהתוצר נשמר כפי שנוצר, אך אינה מוכיחה שהמציאות המתוארת בו התקיימה.
ראיה סינתטית מערערת בכך את ההנחה שלפיה מאחורי כל תוצר חזותי או קולי מצוי בהכרח אירוע מקורי שניתן להתחקות אחריו. הבדיקה נדרשת לעבור מן הדמיון החזותי למציאות אל בירור הזיקה העובדתית אליה: מי יצר את התוצר, באיזו מערכת, על יסוד אילו חומרי מקור והנחיות, והאם קיימים עקבות חיצוניים ובלתי תלויים המאשרים את עצם האירוע. בהיעדר תשתית כזו, אין להסיק מן האיכות, מן הפירוט או מן העקביות של התוצר כי הוא משקף התרחשות ממשית.
מכאן שהבדיקה נדרשת לעבור מן התוצר המוגמר אל נסיבות היווצרותו: מקור הקובץ, המכשיר או המערכת שבהם נוצר, נתוני העזר שנלוו אליו, רצף השמירה וההעברה וקיומם של מקורות חיצוניים בלתי תלויים. שינוי זה מעמיק את משמעותה של הראיה הטובה ביותר. אין מדובר בהכרח בעותק הקרוב ביותר מבחינה פיזית למקור, אלא בראיה שניתן לבחון לגביה את תנאי היצירה, השימור והאימות באופן המלא ביותר.
בינה מלאכותית כמתווכת של הראיה
במקרים רבים המערכת אינה יוצרת ראיה חדשה אלא מעבדת חומר קיים: היא מתמללת הקלטה, מתרגמת שיחה, משפרת תמונה, מחלצת ישויות ממסמכים או ממיינת מאגר גדול לפי רלוונטיות. פעולות אלה עשויות להרחיב באופן ניכר את יכולת ההתמודדות עם מידע מורכב ורב־היקף, אך הן מוסיפות שכבת תיווך בין המקור לבין מי שמעריך אותו. שגיאת זיהוי, תרגום שאינו משמר עמימות, השלמה של פרט חסר או סינון מוטה עלולים להיטמע בתוצר בלי שיהיה ניכר כי מקורם בעיבוד.
לכן יש לשמר הבחנה ברורה בין חומר המקור, פעולת העיבוד והתוצר שהופק. מקום שבו העיבוד נוגע לראיה מהותית, נדרשת אפשרות לחזור אל המקור, להשוות אליו את התוצאה ולשחזר ככל האפשר את תנאי ההפעלה. תוצר מעובד עשוי לסייע בקריאה ובהבנה, אך אין להניח כי הוא שקול למקור או כי הוא ממצה את כל המשמעויות הטמונות בו.
תוצאה הסתברותית אינה ממצא משפטי
מערכות המסווגות פנים, קולות, התנהגויות או רמות סיכון אינן מוסרות עובדה משפטית; הן מפיקות הערכה על בסיס דפוסים שנלמדו מנתונים. גם כאשר התוצאה מוצגת במספר מדויק או בדירוג חד, היא תלויה בהגדרת המשימה, באיכות הנתונים, באוכלוסייה שעליה אומנה המערכת, בסף שנבחר ובחלופות שנכללו בניתוח. המספר עשוי ליצור תחושת ודאות העולה על כוחו האמיתי, במיוחד כאשר תהליך ההפקה אינו גלוי למי שנדרש להסתמך עליו.
המעבר מן הפלט האלגוריתמי אל מסקנה בדבר זהות, אחריות, כוונה או מסוכנות הוא היסק משפטי המחייב הצדקה עצמאית. יש לברר מה בדיוק נמדד, אילו טעויות אפשריות, כיצד נבחר סף ההכרעה ומהו החיזוק הראייתי שאינו תלוי באותה מערכת. ככל שהתוצר מקבל מעמד מרכזי יותר בביסוס ממצא, כך פוחתת האפשרות להסתפק באמירה כללית כי הכלי נמצא מדויק או מקובל.
השפעה סמויה על כיוון החקירה
השפעתה של בינה מלאכותית אינה מוגבלת לראיות המוגשות לבסוף. מערכת עשויה לקבוע אילו מסמכים ייבחנו, אילו אנשים יסומנו, אילו התאמות יוצגו ואילו כיווני חקירה יקבלו קדימות. גם אם הפלט עצמו אינו מוצג בבית המשפט, הוא עשוי לעצב את החומר שייאסף ואת הסיפור העובדתי שייבנה. הטיה בשלב מוקדם עלולה אפוא להמשיך לאורך ההליך ולהיראות מאוחר יותר כתוצאה טבעית של הראיות שנמצאו.
משום כך, בחינה אחראית אינה מתחילה רק בנקודת ההגשה. עליה לזהות היכן הופעלה המערכת, איזו החלטה השפיעה פעולתה, אילו אפשרויות נדחקו הצדה והאם נערכה בדיקה עצמאית של כיוונים חלופיים. תיעוד תפקידה של המערכת מאפשר להבחין בין ראיה שהתגלתה באופן בלתי תלוי לבין ראיה שנבחרה מתוך מרחב רחב על יסוד דירוג או הנחה אלגוריתמיים.
הזיה, סמכות מדומה וחובת האימות
מערכת יוצרת עשויה להפיק טענה, אסמכתה או רצף עובדתי שאינם מעוגנים במקור, ולהציגם בניסוח שוטף ובטוח. הקושי אינו רק בעצם הטעות, אלא בכך שסגנון התשובה עלול לטשטש את ההבדל בין מידע שנשלף ממקור לבין תוכן שהמערכת השלימה על בסיס הסתברות לשונית. בהקשר המשפטי, פרט בדוי אחד עשוי לשנות את מסגרת הדיון, לזהם טיעון או להביא להסתמכות על אסמכתה שאינה קיימת.
לפיכך, אין לראות בתוצר כלי לאימות עצמי. כל טענה מהותית, ציטוט, הפניה או סיכום חייבים להיבדק מול מקור נגיש ועצמאי. השימוש במערכת עשוי לייעל איתור, ארגון וניסוח, אך האחריות לתקינות התוצאה נותרת בידי האדם המאמץ אותה. הבחנה מפורשת בין עובדות מן המקור, פעולות העיבוד והפרשנות שנוספה להן היא תנאי למניעת הפיכתו של ניסוח משכנע לתחליף לביסוס ראייתי.
תיעוד, גילוי ואפשרות לשחזר
ביקורת אפקטיבית מחייבת יותר מחשיפת שמו המסחרי של הכלי. יש לתעד, בהתאם למשמעות השימוש, את חומר הקלט, ההנחיות שניתנו, גרסת המודל, מועד ההפעלה, זהות המפעיל, הפרמטרים הרלוונטיים והתוצרים שהתקבלו. כאשר המערכת עשויה להפיק תוצאות שונות באותם תנאים או כאשר נערכו ניסיונות אחדים, יש משמעות גם לתוצרים חלופיים ולדרך שבה נבחרה דווקא התוצאה שהוצגה.
היקף התיעוד אינו מטרה טכנית בפני עצמה. תכליתו לאפשר לצד הנפגע מן התוצאה להבין מה עשתה המערכת, לאתר נקודות חולשה ולהעמיד את ההיסק במבחן. בלי גישה מספקת למידע על ההפעלה, הזכות להשיג על התוצר עלולה להישאר פורמלית בלבד. אפשרות ממשית לאתגר מחייבת אפוא חומר שמאפשר בדיקה, ולא רק הצהרה כללית כי נעשה שימוש בבינה מלאכותית.
פיקוח אנושי מהותי ובקרה מדורגת
נוכחותו של אדם בתהליך אינה מבטיחה כשלעצמה פיקוח משמעותי. אישור פורמלי של תוצאה, ללא גישה למקור, להבנת מגבלות הכלי או ליכולת לסטות מן ההמלצה, עלול להעניק למסקנה האלגוריתמית חותמת אנושית בלבד. פיקוח מהותי מתקיים כאשר האדם מבין את תפקידה של המערכת, בוחן את התוצר מול החומר הגולמי, שוקל הסברים חלופיים ונושא באחריות להחלטה העצמאית אם לאמצו.
עוצמת הבקרה צריכה להיות יחסית לתפקיד שמילאה המערכת ולקרבת תוצרה להכרעה. שימוש פנימי לצורך איתור ראשוני אינו שקול למערכת המעצבת את עיבוד הראיות או את מבנה הטיעון; ושניהם אינם שקולים לתוצר שעליו מבוסס ממצא עובדתי. ככל שהמערכת עוברת מן השוליים אל מרכז ההכרעה, מתחזקות הדרישות לשימור, לתיעוד, לגילוי, לאימות בלתי תלוי וליכולת שחזור. זהו מבחן מהותי של השפעה, לא סיווג מופשט של הטכנולוגיה.
שילוב אחראי בהליך המשפטי
בינה מלאכותית יכולה להרחיב את יכולת הניתוח, להתמודד עם היקפי מידע גדולים ולחשוף קשרים שקשה לזהות בעבודה ידנית. תרומתה אינה מחייבת לבחור בין אימוץ בלתי מסויג לבין חסימה גורפת. היא מחייבת מסגרת המבחינה בין שימושים, מגדירה את גבולות ההסתמכות ומבטיחה כי יעילות טכנולוגית לא תבוא על חשבון יכולת הביקורת וההכרעה האנושית.
המסגרת הראויה מתחילה בזיהוי מדויק של הפעולה שביצעה המערכת ומסתיימת בשאלה אם ניתן להצדיק את המשקל שניתן לתוצר. בין שתי נקודות אלה יש לשמר את המקור, לתעד את העיבוד, לבחון את ההיסק, לאפשר אתגר ממשי ולהותיר את ההחלטה בידי גורם המסוגל להפעיל שיקול דעת עצמאי. כך ניתן לממש את יתרונותיה של הבינה המלאכותית בלי לייחס לה סמכות ראייתית או משפטית שאינה נובעת מטיבה.