אתיקה, רגולציה ובינה מלאכותית

מאת שלי וולקוביץ ולנה זייגר

אינטליגנציה מלאכותית מרתקת אותנו כבר שנים ועומדת במוקד של מגוון ספרים, סרטים וסדרות בניסיון למתוח את גבולות הדמיון והמחשבה. אך בשנים האחרונות המציאות הווירטואלית הופכת לריאלית ומעלה שאלות אתיות ואסדרתיות אקוטיות העוסקות בטווח שבין האדם למכונה. פיתוח מואץ ושימוש יומיומי בבינה מלאכותית מעלה ביתר שאת סוגיות העוסקות בסיכונים, אחריות ופרטיות לצד חדשנות ותועלות חברתיות. כך למשל בפיתוח רכב אוטונומי, צ’אט עם בוט באתר חברה או שימוש בפייסבוק והנתונים הנאספים בה. מדינות וארגונים בין לאומיים עוסקים יותר מתמיד בשאלה כיצד לייצר אסטרטגיה מתאימה, שתאפשר פיתוח ושיתופי פעולה מחקריים ומסחריים לצד הגנה על ערכים חברתיים – תוך רתימת הטכנולוגיה לצמיחה ורווחה אנושית מכלילה. ב- 22 למאי, ה-OECD אימץ “עקרונות לבינה מלאכותית” שהן הנורמות הבינ”ל הראשונות בתחום.

אסטרטגיות מדיניות והבנות משותפות

מדינות, מוסדות בינלאומיים וארגונים מתכוננים לעולם שבו אינטליגנציה מלאכותית מוטמעת במגוון היבטים בחיי היום יום ולשם כך יש לכונן תשתית מדינית מתאימה. הנ”ל נערכים ליצירת בסיס להבנות משותפות אודות אינטליגנציה מלאכותית, לעידוד מדיניות חדשנות ופיתוח, תוך ביסוס גדרות וסייגים הנוגעים לנושאים כאתיקה, פרטיות וביטחון. נדבך חשוב נוסף הוא יצירת פלטפורמות מאפשרות לשיתופי פעולה מחקריים ומסחריים תוך יצירת שפה משותפת. האתגר המרכזי, בעיקר כאשר מדובר בטכנולוגיות צומחות, הוא הקושי לחזות את התפתחותן בטווח הארוך ובהתאם לכך לייצר רגולציה תומכת ושאינה מכבידה על המערכת.

האיחוד האירופאי, 32 מוסדות או”ם וה-OECD הם רק חלק ממגוון הארגונים הבינלאומיים העוסקים בנושא הבינה המלאכותית. בשנתיים האחרונות הארגונים מפרסמים ניירות עמדה, מקיימים אירועים ומגבשים קבוצות מומחים שעוסקות בעיקר בטווח שבין אתיקה, חברה ואינטליגנציה מלאכותית. ב- 22 למאי, ה-OECD אימץ “עקרונות לבינה מלאכותית” שהן הנורמות הבינ”ל הראשונות בתחום ומטרתן לקדם AI חדשני ואמין תוך כיבוד זכויות אדם ועקרונות דמוקרטיים. לעקרונות צפויה השפעה בזירה הגלובלית, מעבר למדינות OECD – ולראיה, ב- 9 ליוני ה- G20 אימץ עקרונות Human-centered Artificial Intelligence המבוסס על המלצות ה- OECD. פורסמו מחקרים וניירות עמדה בנושאים שונים כהשקעות, מו”פ ועוד, והתקיימו אירועים שונים בהם על מדיניות AI מושכלת ויחסי אדם-מכונה.

יש לציין שישראל היא מעצמה של ממש במה שנוגע לחדשנות וגם השקעות הון סיכון בתחום בינה מלאכותית. לפי פרסום אחרון של ה- OECD ” Private Equity Investment in Artificial Intelligence“, ישראל נמצאת בין חמשת המדינות המובילות בהשקעות בסטארט-אפים בתחום AI במונחים נומינליים, הן לפי מספר השקעות והן היקפן. יתרה מזאת, השקעות AI בישראל עלו מ- 5% מתוך השקעות הון בסטארט-אפים ישראלים ב- 2011 ל- 25% באמצע 2018! נא לחצו על הקישור לגרף בנושא.

מבחינת מדיניות, ישראל מצויה כיום בהליכי הקמה של אסטרטגית בינה מלאכותית בהליך שהחל תחת ועדת המדע והטכנולוגיה בכנסת. הוועדה הלאומית בהובלת פרופ’ יצחק בן ישראל וד”ר אביתר מתניה מורכבת משורה של ממומחים ואנשי מדיניות מגופים כמערך הסייבר, רשות החדשנות, רשות התחרות, המל”ל ונציגים לא ממשלתיים. הדיונים לקראת פיתוח אסטרטגיה ממשלתית מצטרפים לשורה של מדינות הנמצאות כאמור בהליכים מתקדמים יותר ופחות לעיצוב מדיניות בינה מלאכותית. כך למשל ארצות הברית שפרסמה בחודש הקודם צו נשיאותי לשימור המובילות בתחום, סין שפרסמה אסטרטגיה רב שנתית וצרפת שמפתחת אסטרטגיה משלה.

בתאונה שאי אפשר למנוע, במי צריכה המכונית לבחור? הזקן, הילדה או הנהג

אחד הקשיים המרכזיים בשימוש בבינה המלאכותית, שאינו דומה לטכנולוגיות צומחות אחרות, הוא האספקט הנורמטיבי שאליו אנו נדרשים. כך למשל כשהסתמכו בתי משפט במספר מחוזות בארצות הברית על מערכת COMPAS להערכת מסוכנות עצירים, הנחת המוצא היתה שבינה מלאכותית תוכל להשתמש בבסיס נתונים רחב ולקבל החלטה אובייקטיבית ושקולה. המציאות לעומת זאת, הוכיחה שהמערכת “למדה” את ההטיות האנושיות ואי השוויון שנרשם בעבר וכך נשמר העיוות לפיו עצירים שחורים הם בעלי רמת מסוכנות גבוהה יותר מלבנים. מורכבות מערכות הבינה המלאכותית היא בהיותן מעין “קופסא שחורה” שלעיתים אינה מאפשרות חיזוי מראש ואף הסבר בדיעבד להחלטות שלהן. התקדמות אנושית כוללת בתוכה איכויות רכות כרגשות ותובנות, והטכנולוגיה כיום מאתגרת ערכים של הוגנות, שוויון, ביטחון וזכויות אדם.

המציאות מורכבת כיון שמצד החדשנות, קיים פוטנציאל עצום לפתרון הבעיות החברתיות האנושות ביותר בתחומים כבריאות, חינוך וסביבה – המתכנסות כולן לקידום השגת מטרות הפיתוח הבר קיימא (SDG’s). קידום צמיחה ותחרותיות, תוך שמירה על מסגרת אתית, היא מהאתגרים הגדולים העומדים היום בפני המדינות המערביות. שחקניות מרכזיות הנמצאות בחוד החנית של הפיתוח כסין, יפן וארה”ב לצד שווקים חשובים כאיחוד האירופאי מעורבות בשיח הבינלאומי באשר לגישה למידע ופרטיות. יצירת בסיס לשפה משותפת דרך ארגונים בינלאומיים, כפי שמוצע כיום בארגון ה-OECD , עשויה לאפשר טיפוח הזדמנויות מחקר ופיתוח, סחר בינלאומי והשקעות, תוך כיבוד ערכי אנוש אוניברסליים ועקרונות אתיים.

לקריאה נוספת בנושא:

סיכום פעילות ה-OECD בתחום האינטליגנציה המלאכותית  (כולל סרטון שבו מופיע גם מומחה ישראלי – מר דודו מימרן, מנהל טכנולוגי ראשי במרכז המחקר לאבטחת סייבר באוניברסיטת בן גוריון בנגב)

קבוצת מומחי HLEG AI באיחוד האירופאי

סקירה מלאה של הפעילות בתחום הבינה המלאכותית במגוון מוסדות האו”ם לשנת 2018

דיון וועדת המדע והטכנולוגיה להקמת וועדה לאומית בנושא אתיקה, רגולציה ובינה מלאכותית