הצעת הרגולציה של האיחוד האירופי בנושא בינה מלאכותית – מה המשמעויות לעסקים?

ב-21 באפריל 2021 הודיעה סגנית בכירה לנשיאת האיחוד האירופי בנושא התאמת אירופה לעידן הדיגיטלי, מרגרטה וסטגר (Margrethe Vestager), כי נציבות האיחוד האירופי תשאף "להפוך את אירופה למובילה עולמית בפיתוח בינה מלאכותית (Artificial Intelligence) מאובטחת, אמינה וממוקדת אנושית".

הטקסט הרגולטורי המוצע על ידי הנציבות נועד להגן על האזרחים ולהמשיך לעודד חדשנות.

מה כוללת הרגולציה המוצעת?

טיוטת הטקסט של הנציבות מכירה בכך שבינה מלאכותית עשויה להועיל באוטומציה של משימות, מתן מידע חשוב לקבלת החלטות, הגדלת התפוקה והפחתת עלויות. כמו כן, באפשרותה לספק יתרונות תחרותיים משמעותיים במגוון תחומים כגון בריאות, חקלאות, חינוך, צדק, לוגיסטיקה, אנרגיה וניהול תשתיות.

עם זאת, נציבות האיחוד האירופי סבורה גם כי בינה מלאכותית עלולה לייצר סיכונים ולגרום לפגיעה באינטרסים הציבוריים ובזכויות המוגנות על פי חוק האיחוד האירופי. הטקסט מציע לאסור טכנולוגיות בינה מלאכותית המשמשות למטרות מעקב ללא הבחנה, זיהוי פנים, מניפולציה התנהגותית אנושית ומערכות ניקוד אשראי חברתי. המשמעות היא שכל מערכות הבינה המלאכותית המשמשות לפעולות כגון הליכי גיוס, בחירת מועמדים להשכלה גבוהה, או החלטות בסיוע בינה מלאכותית על ידי שופטים, יצטרכו לוודא שהם תואמים לגישה החדשה של האיחוד האירופי.

כיצד יקבע האיחוד האירופי מהו סיכון?

את יישום הרגולציה יוודא האיחוד האירופי באמצעות הטלת חובה על עסקים להעריך את הסיכונים הכרוכים באלגוריתמים שלהם, עוד בטרם מסחור מוצריהם. כל עסק יחויב להסביר בפירוט את תפקוד הבינה המלאכותית בחברתו בכדי להראות שהוא אינו מסכן את האינטרסים ואת זכויות הציבור על פי חוקי האיחוד האירופי.

הנציבות מכירה בכך שלבינה מלאכותית השפעה על מגוון תחומים, ועל כן החליטה לנקוט בגישה מבוססת סיכונים (risk-based approach). הגישה מבדילה בין שלוש קטגוריות סיכונים: סיכון לא מקובל (Unacceptable risk), סיכון גבוה, וסיכון נמוך או מינימלי. סיכונים לא מקובלים נוגעים לסיכונים שהוזכרו לעיל (כגון מערכות ניקוד אשראי חברתי או מניפולציה התנהגותית אנושית) והם אסורים על פי הרגולציה המוצעת. עיקר הטקסט מתמקד במערכות בינה מלאכותית בסיכון גבוה העלולות להשפיע על תחומים, כגון מכשירים רפואיים ומכונות. בנוסף, תחומים כמו הפעלת תשתיות קריטיות, הערכת סיכונים על ידי רשויות אכיפת החוק, הגירה ובקרת גבולות עשויים להיות מושפעים גם כן. עם זאת, הרשויות הרלוונטיות עשויות לאפשר גמישות מסוימת בכל הנוגע להבטחת ביטחון הציבור או הגנה על חיים (ומפני מוות) של אנשים טבעיים. מערכות בינה מלאכותית בעלות סיכון נמוך (כגון צ'טבוטים או משחקי וידאו) יהיו כפופות להתחייבויות ומגבלות ומינמליות.

כיצד יתבצע הפיקוח?

האיחוד האירופי מעוניין להקים "מועצת בינה מלאכותית אירופית" (European Artificial Intelligence Board) שתפקידה יהיה לסייע לנציבות ולרשויות הלאומיות במדינות החברות ביישום הרגולציה ובטיפול בנושאים שונים הקשורים לחקיקה.

מערכות בינה מלאכותית בסיכון גבוה יצטרכו לעמוד במערך של חובות אופקיות ולבצע נהלי הערכת תאימות, בטרם ניתן יהיה לשווק מערכות אלה בשוק האירופי. המדינות החברות באיחוד האירופי יגדירו מי יהיו הרשויות אשר ישגיחו על ביצוע הערכות התאימות.

באם חברה לא תצליח לעמוד בדרישות אלה , טיוטת החקיקה קובעת קנסות של עד 6% מהמחזור השנתי העולמי של החברה בשנת הכספים הקודמת.

האם חדשנות עדיין תהיה אפשרית בעקבות הרגולציה?

נראה כי הרגולציה המוצעת מודעת לצורך שלא לפגוע בחדשנות. הדבר מאפשר למדינות החברות באיחוד האירופי להקים ארגזי חול רגולטוריים של בינה מלאכותית, בפיקוח רשויות לאומיות מוסמכות, בהן יוכלו חברות לבדוק טכנולוגיות חדשניות בסביבות מבוקרות (שמטרתן להפחית את הנטל הרגולטורי).

הצעת החקיקה המוצעת מהווה צעד חשוב בהסדרת טכנולוגיות בינה מלאכותית ועליה לקבל את אישור הפרלמנט האירופי ומועצת האיחוד האירופי. אין ספק כי לחקיקה תהיה השפעה גדולה על פרטים וחברות, וההשפעה עשויה להתרחב מעבר לגבולות האיחוד האירופי.

כיצד ניתן להשפיע על הצעת החקיקה?

ב-2020 הנציבות האירופית פרסמה פורום ראשון להתייעצות עם נציגי תעשייה שונים על הרעיונות המרכזיים של החקיקה המתוכננת, זאת לפני גיבוש הצעת החקיקה. את תוצאות ההתייעצות ניתן למצוא כאן וכאן.

כעת מאפשרת הנציבות להגיב על הטקסט שפורסם ובו הצעת החקיקה. ניתן להגיש הערות עד ה-06.08.2021 (עד חצות שעון בריסל).

 

הפוסט נכתב בשיתוף תאופיל מזייאר, יועץ מדיניות סחר בנספחות המסחרית לאיחוד האירופי.

 

צור קשר עם:

נטע בר-אל

שלח הודעה

אהבתם? שתפו

שיתוף ב facebook
שתפו בפייסבוק
שיתוף ב twitter
שתפו בטוויטר
שיתוף ב linkedin
שתפו בלינקדאין
שיתוף ב email
שתפו במייל