אתיקה, רגולציה ובינה מלאכותית - בלוג מינהל סחר חוץ


בחר בלוג

הצטרפו לרשימת התפוצה
הכירו את הנספחים הכלכליים
בקשה לתעודת יצואן
Emerging Markets

אתיקה, רגולציה ובינה מלאכותית

פורסם ע"י , מנהלת אתר מינהל סחר חוץ , בתאריך 1 במאי 2019

 

שלי וולקוביץ

כתבה: שלי וולקוביץ

העתיד הווירטואלי שתיארו שפילברג ואחרים הופך בשנים האחרונות למציאותי מתמיד ומעלה שאלות אתיות והסדרתיות העוסקות בטווח שבין האדם למכונה.

בתאונה בה מעורב רכב אוטונומי, במי תפגע המכונית? איך אפשר להגן על פרטיות מידע בפייסבוק (ולמנוע דליפה)? מדינות, מוסדות בינלאומיים וארגונים עוסקים יותר מתמיד בשאלה כיצד לכונן תשתית מדינית מתאימה ולייצר שפה משותפת שתאפשר פיתוח ושיתופי פעולה מחקריים ומסחריים, לצד ההגנה על ערכים חברתיים. התפתחות הטכנולוגיה מעלה שאלות של אחריות ופרטיות, ותהייה כיצד יחד עם זאת ניתן לרתום אותה לחדשנות, צמיחה ורווחה אנושית מכלילה.

האתגר המרכזי, בעיקר כאשר מדובר בטכנולוגיות צומחות, הוא הקושי לחזות את התפתחותן בטווח הארוך ובהתאם לכך לייצר רגולציה תומכת שלא תכביד על המערכת.

 

Artificial intelligence concept.

אסטרטגיות מדיניות והבנות משותפות

האיחוד האירופאי, 32 מוסדות או"ם וה-OECD הם רק חלק מהארגונים הבינלאומיים העוסקים בנושא הבינה המלאכותית. בשנתיים האחרונות מפרסמים הארגונים ניירות עמדה, מקיימים אירועים ומגבשים קבוצות מומחים שעוסקות בעיקר בטווח שבין אתיקה, חברה ואינטליגנציה מלאכותית. נכון להיום, ה-OECD הוא הארגון הבינלאומי שנמצא בהליך המתקדם ביותר לקראת גיבוש אפשרי של נורמות. כך למשל כחלק מהתהליך הוקם בסתיו האחרון פורום מומחים AIGO בו חבר גם דודו מימרן, מנהל טכנולוגי ראשי במרכז המחקר לאבטחת סייבר באוניברסיטת בן גוריון בנגב. פורסמו מחקרים וניירות עמדה בנושאים כהשקעות ותעסוקה, והתקיימו אירועים שונים, בהם על מדיניות מתאימה ויחסי אדם-מכונה.

 


ישראל, למרות גודלה, נמצאת במקום הרביעי בעולם מבחינת סך השקעות בחברות סטארטאפ בתחום הבינה המלאכותית, ונמצאת בהליכי הקמה של אסטרטגיה לאומית בנושא. הוועדה הלאומית בהובלת הפרופסורים יצחק בן ישראל ואביתר מתניה, מורכבת משורה של מומחים ואנשי מדיניות מגופים כמערך הסייבר והמל"ל ונציגים לא ממשלתיים. הדיונים לקראת פיתוח אסטרטגיה ממשלתית מצטרפים לשורה של מדינות הנמצאות כאמור בהליכים לעיצוב מדיניות בינה מלאכותית. כך למשל ארצות הברית שפרסמה צו נשיאותי לשימור המובילות בתחום, סין עם אסטרטגיה רב שנתית וצרפת.

בתאונה שאי אפשר למנוע, במי תבחר המכונית? בזקן, בילדה או בנהג

אחד הקשיים המרכזיים בשימוש בבינה המלאכותית, שאינו דומה לטכנולוגיות צומחות אחרות, הוא האספקט הנורמטיבי שאליו אנו נדרשים.

כך למשל כשהסתמכו בתי משפט במספר מחוזות בארה"ב על מערכת COMPAS להערכת מסוכנות עצירים, הנחת המוצא היתה שבינה מלאכותית תקבל החלטה אובייקטיבית ושקולה בהסתמך על בסיס נתונים רחב. המציאות לעומת זאת, הוכיחה שהמערכת "למדה" את ההטיות האנושיות ואי השוויון שנרשם בעבר, וכך נשמרה ההטיה לפיה עצירים שחורים בעלי רמת מסוכנות גבוהה יותר מלבנים. מורכבות מערכות הבינה המלאכותית אינן מאפשרות לנתח בדיעבד את מכלול הגורמים שהביאו להחלטה בודדת ולהסביר אותה. אבולוציה, או התקדמות אנושית, כוללת איכויות רכות כרגשות ותובנות והטכנולוגיה כפי שהיא כיום מאתגרת ערכים של הוגנות, שוויון, ביטחון וזכויות אדם.

המציאות מורכבת כיון שמצד החדשנות, קיים פוטנציאל עצום לפתרון בעיות חברתיות רבות בתחומים כבריאות, חינוך, מדע ותקשורת – להשגת מטרות הפיתוח הבר קיימא (SDG’s). קידום צמיחה תחרותית, תוך שמירה על מסגרת אתית, הם מהאתגרים הגדולים העומדים היום בפני המדינות המערביות. שחקניות מרכזיות הנמצאות בחוד החנית של הפיתוח כסין, יפן וארה"ב לצד שווקים חשובים כאיחוד האירופאי מעורבים בשיח הבינלאומי באשר לגישה למידע ופרטיות.

יצירת בסיס לשפה משותפת דרך ארגונים בינלאומיים, כפי שמוצע כיום ב-OECD , עשויה לאפשר טיפוח הזדמנויות מחקר ופיתוח, סחר בינלאומי והשקעות, תוך כיבוד ערכי אנוש אוניברסליים ועקרונות אתיים.

 לקריאה נוספת בנושא:

סקירה מלאה של הפעילות בתחום הבינה המלאכותית במגוון מוסדות האו"ם לשנת 2018

סיכום פעילות ה-OECD בתחום האינטליגנציה המלאכותית

קבוצת מומחי HLEG AI באיחוד האירופאי

דיון וועדת המדע והטכנולוגיה להקמת וועדה לאומית בנושא אתיקה, רגולציה ובינה מלאכותית

 

 

 

 

תמר להב מנהלת אתר מינהל סחר חוץ

כתיבת תגובה

(לא יפורסם)

* שדה חובה

פניה למנהלת אתר מינהל סחר חוץ, תמר להב