חברת הקוד: מי שולט על חיינו?

מתכנתים עובדים במרץ על אלגרותמים שיאפשרו לנו לבחור בצורה מושכלת יותר אך עדויות ראשונות מראות שקוד יכול להיות מוטה בדיוק כמו בן אנוש ואולי אף יותר. סמינר בפורום של ה-OECD דנו על ההשלכות של חברת הקוד עלינו כצרכנים ואזרחים

הטכנולוגיה משנה את חיינו ורבים מנסים לשער כמה מאתנו יאבדו את מקום עבודתם לרובוטים ואלו השלכות נוספות יהיו למהפכת הייצור הבאה. אחת מההשלכות המרכזיות שממשלות חייבות להתמודד אתה היא ההשפעה של אלגוריתמים על חיינו, על ההחלטות שאנחנו לוקחים וכמובן על הפרטיות, אם בכלל אפשר לדבר על מושג זה בעידן גוגל ופייסבוק. כחלק משבוע ה-OECD שנערך בסוף חודש מאי הנוכחי דנו מומחים בתחום על חברת העתיד.

אני חושב משמע אני קיים?

כאשר הפילוסוף דקארט ביקש להוכיח את קיום האדם הוא ביסס זאת על המחשבה ומעניין לדעת מה ההוגה הצרפתי היה חושב על מחשבים החושבים כבר בעצמם. זה כבר לא מדע בדיוני ואם בעבר המכונות ידעו לעשות בדיוק מה שבני אדם תכנתו אותם לעשות, כיום ישנם מחשבים וקודים המתוכנתים באופן רחב ביותר והם יודעים ללמוד בעצמם ולהתפתח. פרופסור פדרו דומינגס (Pedro Domingos) מאוניברסיטת וושינגטון שבארה"ב טען שכבר היום אנו חיים בחברת אלגוריתמים כיוון שמכונות היודעות ללמוד מהמידע העצום שבאינטרנט ולהתפתח, מהר יותר מבני אדם, כבר פועלים.

רוע מוחלט או עולם חדש ומופלא?

האם אפשר לסמוך על גוגל? גם בעידן הנוכחי שרבים מאתנו מודעים ליכולת של חברות האינטרנט, אנשים רבים נדהמים שבמכשירי הסלולר ובשרתי גוגל נאגרים מידע אישי מאוד כמו מסלולי ההליכה של המשתמשים. לפי פרופסור אנינדיה גוס (Anindya Ghose) מאוניברסיטת ניו-יורק הפחד מגוגל הוא לא רלוונטי, כי חברות מסחריות, בניגוד לממשלות, אין להם שום אינטרס לשלוט במידע לרעה אלא לשימוש יעיל שאמור לעזור למשתמשים. פרופסור גוש שאל את הקהל האם הם מעדיפים לקבל פרסומות כלליות שלא מתאימות לצרכים שלהם או אפילו למגדר שלהם או פרסומת ממוקדת הבנויה על אלגוריתם חכם השואב מידע מסוים בהסכמה וכך אף לשרת את הצרכנים. עיתונאית הטכנולוגיה מדומיטה מורגיה (Madhumita Murgia) הדגישה שבמבט מרחוק פרסום ממוקד נראה יעיל מאוד למשתמש אך לא בהכרח משתלם כיוון שכאשר מחפשים מספר פעמים כרטיס טיסה המחיר שלהם עולה ויש כבר חברות היודעות לכוון את המחיר לפי תפיסת הכנסה משוערת של המשתמש (בזבזן מול חסכן לדוגמה).

מיהו האח הגדול בחברת הקוד שבה אנו חיים? אפל או הממשלה?

קוד זדוני וגזעני?

משטרת שיקאגו בארה"ב מפעילה תוכנה לומדת המאפשרת לה לחזות מי יהיה מעורב בירי וקשה להיות מופתע שהאלגוריתם החכם המבוסס בין היתר על נתוני מעצרים וקשרים עם כנופיות, סימן בעיקר גברים שחורים. האם הקוד מוטה? גזעני? בפאנל התחולל ויכוח כאשר פרופסור דומינגס טען שהאלגוריתם הלומד לא יכול להיות מוטה אלא אך ורק הנתונים או מי שתכנת אותו אך עיתונאית הטכנולוגיה מדומיטה מורגיה טענה שזו דוגמה נהדרת לחשש מהעתיד שבו מכונות יבצעו החלטות שאפילו בני אדם שתכנתו אותם לא ידעו להבין את ההחלטות. דומינגס התעקש שוב ושוב שמכונה שלומדת לא יכולה להיות מוטה כי היא לא יודעת להיות גזענית או להבחין בגזע. מומחה המערכות מה-OECD כריסטאן קונטץ' (Christian Reimsbach-Kounatze) טען שזה לא כל-כך משנה כיוון שבסופו של דבר אי אפשר לקחת קוד לכלא אלא רק בני אדם והם אלו שאחראים לכך. העיתונאית מדומיטה הקשתה ואמרה שאנשים רבים המקבלים החלטות חשובות כמו שופטים למשל, המשתמשים במכונות אלו, לא יודעים שהקוד או הנתונים בעייתיים ומקבלים זאת כאמת מוחלטת. יש לשאול כמובן האם היום לא עושים זאת?  לפי פדרו דומינגס האלגוריתמים עדיפים על בני אדם, למרות החסרונות.

דו"ח מיוחד: כבר לא מדע בדיוני, בשיקאגו משתמשים באלגוריתם חכם למניעת פשעים

מידע חלקי או שלם?

מה חברות האינטרנט יודעות עלינו? אם תשאלו חברות מידע, רבות מהן יגידו לכם שהן לא יודעות כי הם לא שומרות מידע באופן אישי אלא אך ורק קבוצתי אך מקרים רבים מדי הראו שלעיתים קרובות המידע ששמור אצלן חלקי או לא נכון. בארה"ב למשל, כדי לשכור דירה ואפילו לעיתים להתקבל לעבודה, יש לעבור תהליך שנקרא "בדיקת קרדיט" שהוא למעשה דוח המרכז את כל התשלומים שבוצעו והאם מוסר התשלומים קלוקל כמו מינוס או צ'קים שחוזרים. מחקרים רבים מראים שהמידע הקריטי הזה לעיתים קרובות לא נכון, חלקי ואף יש בלבול בין אנשים מסוימים וזה יכול לפגוע באופן אנוש בעתיד האנשים.

הממשלה כמושיעה או כמפריעה?

את הטכנולוגיה אי אפשר לעצור ויותר מידע יכול בוודאי להועיל לאנושות אך השאלה ששאלו עוד ביוון העתיקה נכונה גם היום – "מי ישמור על השומרים?" שומרי המידע שהן חברות האינטרנט אמורות להיות תחת רגולציה שתשמור על הפרטיות ועל הביטחון הצרכנים אך לעיתים נראה שקשה לזהות את הטובים והרעים בסיפור. לפני מספר חודשים ביקשה הבולשת האמריקאית, FBI, מחברת אפל לפתוח את מכשיר האייפון הנעול של המחבל מקליפורניה. חברת אפל סירבה לבקשה עקב הרצון לכבד את פרטיות המשתמשים שלהם אך בסופו של דבר חברת הפתוח הנגוס משתמשת במידע שלנו כדי למכור מוצרים ופרסומות אך שיתוף מידע למען ביטחון המדינה חשוב פחות? וגם אם אנחנו מסכימים עם עמדת המדינה, מה יקרה ביום שתבוא הממשלה ותחייב את גוגל, פייסבוק ואפל להעביר עליהם את כל המידע שאספו עלינו? מי אז ישמור על השומרים?

כפי שניתן לראות הטכנולוגיה גורמת לדברים רבים נהדרים להתרחש אך גם לכאב ראש לא פשוט לרגולטורים שאמורים להגן על האזרחים מפני אינטרסים בעייתיים. הכלכלה והחברה הדיגיטלית מעוצבים מדי יום ותפקיד הממשלה הוא לכוון את העולם לכיוון האוטופי שבו מכונות חכמות יפתרו בעיות ולא יגרמו לאסון.

לפאנל המלא:

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *