פרוטוקול של ישיבת ועדה

הכנסת העשרים

הכנסת



28
ועדת המדע והטכנולוגיה
04/06/2018


מושב רביעי



פרוטוקול מס' 177
מישיבת ועדת המדע והטכנולוגיה
יום שני, כ"א בסיוון התשע"ח (4 ביוני 2018), שעה 12:00

בינה מלאכותית – הזדמנויות ואתגרים

חברי הוועדה: אורי מקלב – היו"ר

עמר בר-לב
יצחק הרצוג

יאיר פרנק - ראש רשות התקשוב הממשלתי, משרד ראש הממשלה

עינן ליכטרמן - ראש תחום בכיר מו"פ וטכנולוגיות, מערך הסייבר הלאומי

ד"ר יוסי קאליפא - מנהל תחום מחקרים במדעי החיים, משרד המדע והטכנולוגיה

אלכסנדר בליי - המדען הראשי, משרד המדע והטכנולוגיה

ד"ר שרון יגור קרול - מנהלת תחום מדעי הרפואה, משרד המדע והטכנולוגיה

ד"ר פדיל סאלח - ראש תחום פיזיקה ומתמטיקה, משרד המדע והטכנולוגיה

עדן צייטלין - סטודנט, משרד המדען הראשי, משרד המדע והטכנולוגיה

שמעון ברונר - מנהל אגף בכיר למערכות מידע, משרד הכלכלה והתעשייה

עוז שנהב - הרשות להגנת הפרטיות, משרד המשפטים

גדי הורנשטיין - ראש ענף תחבורה ו-IOT, רשות החדשנות

אבי שרון - מנהל פרויקט שחר, אגף המחשוב, משרד העבודה, הרווחה ושירותים חברתיים

זאב שדמי - ראש תחום מחקר ופיתוח טכנולוגיה, משרד התחבורה והבטיחות בדרכים

יעקב שם טוב - ראש תחום חדשנות וטכנולוגיות, משרד התחבורה והבטיחות בדרכים

דורון גוקמן - מחלקת הנדסה, משרד התחבורה והבטיחות בדרכים

אורנה מצנר - ראש תחום מדע, המשרד להגנת הסביבה

איתן קליינמן - מנהל חדשנות טכנולוגית, משרד החינוך

ד"ר יהלומה גת - מנהלת מדעית בכירה, משרד הבריאות

עידית חכימי - מנהלת תחום בכירה מדעי החברה וההתנהגות, המשרד לבטחון פנים

מאיר אזנקוט - רכז מחקר ומידע, מרכז המחקר והמידע של הכנסת

שושנה מקובר - מנהלת מערכות BI, הכנסת

אמיר גת - ממונה תחום הקצבות למחקר, אגף תקצוב, המועצה להשכלה גבוהה/ות"ת

שירה אפרת - האגף לאסטרטגיה ובינלאומיות, המועצה להשכלה גבוהה/ות"ת

דניאל מילבאוור - אגף לאסטרטגיה בינלאומית, המועצה להשכלה גבוהה/ות"ת

ד"ר ניל נמיר - יועץ מדיניות מו"פ, המועצה הלאומית למחקר ופיתוח אזרחי

בנימין לאשקר - יועץ קשרי חוץ, המועצה הלאומית למחקר ולפיתוח אזרחי

פרופ' אמנון שעשוע - מדעי המחשב; מייסד חברת מובילאיי; סגן נשיא בכיר באינטל העולמית

יצחק בן ישראל - ראש מרכז הסייבר, אוניברסיטת תל אביב

פרופ' יואב בנימיני - יו"ר ועדת ות"ת למדעי הנתונים, אוניברסיטת תל אביב

פרופ' עירד בן גל - ראש מעבדת בינה מלאכותית ולמידת מכונה, אוניברסיטת תל אביב

ד"ר אורן גליקמן - מכון מדע הנתונים, אוניברסיטת בר אילן

פרופ' קרין נהון - נשיאת איגוד האינטרנט, המרכז הבינתחומי בהרצליה

ד"ר דפנה גץ - עמיתת מחקר בכירה, מוסד 'שמואל נאמן', הטכניון

אושרת כץ שחם - חוקרת, מוסד 'שמואל נאמן' בטכניון

ד"ר תהילה שוורץ אלטשולר - עמיתה בכירה, המכון הישראלי לדמוקרטיה

דורון סלע - אחראית קשרי ממשל, המכון הישראלי לדמוקרטיה

בן ברייך - אנליסט מדיניות ציבורית, חברת גוגל ישראל

שמעון שמואלי - מנהל למדיניות ציבורית, חברת גוגל ישראל

עופר לידסקי - מנכ"ל ומייסד terrsafe, חברות מחשוב בתחום טכנולוגיית המידע

איתן אלירם - יועץ עצמאי לאוניברסיטת סינגולריטי (נאס"א וגוגל)

ד"ר טל סינס - מנהל בנק ה-DNA, חברת דיאנטיק

איתי גליק - מנכ"ל חברת לינק

פרופ' משה בן בסט - יו"ר חברת MOBI, ניידות תובנה בע"מ

חניתה פרידמן - מנכ"לית כרמיסופט בע"מ

שרון גולדברג - מתמחה

מירב שמולי - שדלן/ית (גלעד יחסי ממשל ולובינג), מייצג/ת את מוביליטי אינסייט בע"מ

איתן אלון - שדלן/ית (גלעד יחסי ממשל ולובינג), מייצג/ת את מוביליטי אינסייט בע"מ

ענת לוי

ס.ל., חבר תרגומים



בינה מלאכותית – הזדמנויות ואתגרים

צהריים טובים. אני קודם כל מתנצל, לפני שאני מתכבד לפתוח את הישיבה. אני חוזר מניהול ישיבה בוועדת חוקה, מילאתי את מקומו של יושב ראש הוועדה הקבוע בנושא תקנות ההוצאה לפועל ואני ממש לפני שתיים-שלוש דקות סיימתי את הישיבה. אז מהישיבה הזו אני ממשיך, תתחשבו בי, זו הייתה ישיבה גם ככה קצת מורכבת, אבל מעניין, יש איזה ממשק, סך הכול שני קירות מפה ושם דנו בהוצאה לפועל. אמרתי להם שאני עכשיו הולך לוועדה, 'אתם משפרים ודנים ככה וככה והיא תפתור את כל הבעיה', 'מדוע?' הם שואלים אותי, הבינה המלאכותית כבר תזהה את האנשים שעומדים להיות פוטנציאל של הוצאה לפועל, אותן החברות כבר לא ייתנו להם, הם כבר לא יהיו במשחק, 'אתם עכשיו דנים בזה ואנחנו תיכף יכולים לפתור לכם את הבעיה מכיוון אחר לגמרי'. אני חושב שלא הגזמתי, יכול להיות שזה חלק מהעניין.

אז אני ברשותכם אפתח באופן רשמי את הישיבה של ועדת המדע והטכנולוגיה, היום יום שני, כ"א בסיוון התשע"ח, 4.6.2018, ועל סדר יומנו, כפי שאמרנו, בינה מלאכותית, הזדמנויות ואתגרים. לסדר היום צורפה עבודה של רועי גולדשמידט, שנותנת לנו את הרקע לדיון.

אני מכבד קודם כל את נוכחותו של יושב ראש האופוזיציה, חבר הכנסת בוז'י הרצוג, הוא אורח קבוע פה ואני חושב שגם בדיון הקודם שהיה, כשדנו על התכנית הלאומית לבריאות דיגיטלית, גם השתתפת.

אני רוצה להגיד בכותרת על מה אנחנו רוצים לדון, אני מבקש ורוצה לשמוע כמה שיותר אנשים, יש לנו כאן באמת אנשים שאצלם זה לא דיון ראשון וגם אנחנו בוועדת המדע והטכנולוגיה, אמנם מקיימים דיון ראשון ציבורי בנושא מבחינת ממשלה, אבל בנושא של בינה מלאכותית, בדיון האחרון שלנו, כשדנו בתכנית הלאומית לבריאות דיגיטלית, של הממשלה, משרד הבריאות, זה גם חלק מבינה מלאכותית. לקחת אוסף של מידע וידע שיש לנו ולעבד אותו ולהשתמש בו מכמה היבטים ודאי. לא מעט דיונים היו לנו בנושא תחבורה, שגם יש שם בינה מלאכותית. הפעם אנחנו רוצים לדון בממשלה, ממשלת ישראל, מדינת ישראל, גם כמשתמשת, אבל בעיקר גם כקובעת מדיניות. יש לא מעט היבטים, מעבר להיבטים בחלק המעשי, היום מה שקורה בעולם הגלובלי בנושא בינה מלאכותית, איפה נמצאים בעולם, בוודאי במישור הפילוסופי שיש לנו הרבה מה לדון. מי שנמצא פה, רובכם, כבר דנתם בעניין הזה, גם בהיבט המעשי, לאן, לאן זה יוביל אותנו, אני הייתי מבקש להתמקד בנושא הממשלה.

יש זמן מסוים, ואני חושב שכבר הגיעה העת, אם לא כבר מאוחר, איפה ממשלה אומרת את דברה, איך היא רואה את הדברים מבחינת השימושים, קידום הנושאים, אבל לא מעט איפה אנחנו מפעילים רגולציה, מה החקיקה שאנחנו חושבים, איפה צריך את ההתערבות. למשל בנושא הפרקטי, יש שוני בנושא העסקת הנשים, בנושא עבודה, יש מקצועות שלכאורה ייעלמו, מה אנחנו עושים בעניין הזה, האם יש לנו הכשרות בנושא? האם אנחנו נדע להתמודד גם עם אנשים וגם עם אנשים חדשים שאנחנו צריכים, אני אקדים להכשיר אותם כבר מגיל החינוך? האם מערכת החינוך יודעת היום כבר להכין ולהכשיר ומודעת לדברים ולמקצועות הבאים, או לידע ולהשכלה שאנחנו רוצים שבאמת יידעו. זה בחלק הפרקטי, אחד מהדברים.

יש כאן סדרת שאלות שיש לנו בנושא הזה. אני אקח את זה עד לדבר שבעיניי זה אולי הקיצון, החלק הערכי, החלק המשפטי. מכונית אוטונומית פוגעת, אני לא אומר צריכה להחליט לפגוע בילד או בבעל חי, אם היא צריכה לקבל כזאת החלטה, אני לא אומר בין שני בני אדם, אבל בעיקר אם מישהו פגע, מי אחראי משפטית, הרכב האוטונומי, החברה שמפעילה את זה, האדם שהזמין את הרכב הזה או המתכנת של הרכב, שהוא עשה את התוכנה ומשתמשים בה? איפה החלק הזה נמצא? את מי אנחנו תובעים, אם יש את מי לתבוע?

אני אומר את זה ממש בקצרה, אפשר עוד הרבה להרחיב, אני לא רוצה לקחת מהזמן, אבל הרבה נושאים, זו גם לא הישיבה היחידה בעניין, זו הישיבה הראשונה, שאנחנו מציפים את זה כאן בכנסת ומכאן אנחנו רוצים להגיע הלאה ובאנו לכאן כדי לשמוע אתכם.

לפני שאני אבקש מפרופ' שעשוע, שאתה תיתן דברי פתיחה בנושא, יושב ראש הקואליציה, מר יצחק הרצוג.

לא, בבקשה, בוא נתחיל עם פרופ' שעשוע.

אז אם ככה סיכמנו לפי סדר הדברים שנתחיל עם פרופ' שעשוע. בבקשה. באמת תודה רבה שבאת אלינו, כשמדברים על בינה מלאכותית הרבה חושבים מיד עליך. אני אומר לפני שאתה אומר, גם העביר לי את זה בצורה מסודרת דובר הוועדה, אני אצטט מה שבמשלי נאמר, כבר אז חשבו על זה, במשלי כתוב 'אשרי אדם מצא חכמה ואדם יפיק בינה', הוא מפריד בין חוכמה לבין בינה. שני דברים, שני נושאים. חוכמה יכול כל אחד למצוא ושילמד מאחרים, הוא תלמיד חכם, איך אומרים אצלנו? לא אומרים חכם, הוא תלמיד חכם, מישהו שכל הזמן לומד, לעומת זאת תבונה הוא יכול להפיק מעצמו, כי זה כבר הסקת מסקנות. כמה נכון.

אנחנו נמצאים כאן עכשיו, אומר על זה, בתמונה. אומר על זה שמשון רפאל הירש, לא לפני הרבה שנים, הוא מתייחס למה שכתוב בפרקי אבות, אם אין דעת אין בינה, אם אין בינה אין דעת. איפה ההשוואה? הוא אומר שצריך את שני הדברים ביחד. איך יש דעת? ניסיון זה דעת, אבל הוא לא מספיק בלי בינה. זאת אומרת ידע עיוני שמשכלל את מה שבא מהניסיון זה הדבר המושלם. הוא אומר ההיפך, יש מישהו שיש לו בינה עיונית, אבל ללא בסיס ניסיוני מוצק הוא מגדל פורח באוויר. אלה שני הדברים. אז תבונה וחוכמה כבר הייתה פעם, אנחנו עכשיו רוצים להוציא את זה באופן ממשי. בבקשה.

תודה רבה על ההזדמנות לשאת דברים בפני הוועדה. אני רואה כאן פנים מוכרות, פרופ' משה בן בסט, עוד ממקימי בינה מלאכותית בשנות ה-80. קראתי את הדוח של רועי גולדשמידט, דוח ממש מצוין, אני ממליץ לכולם לקרוא אותו, ממצה, אז כמובן שאני לא אחזור עליו, אני אנסה לספר לכם מה לא נמצא בדוח.

עם מה אתה מסכים ומה אתה לא מסכים?

לא, אני מסכים עם הכול, דוח מצוין, אני ממליץ שתפרסמו אותו, שכלל הציבור יוכל לקרוא אותו, ממש דוח מצוין. באמת מאוד נהניתי לקרוא. הרקע שממנו אני אשא את הדברים, יש לי מעבדה עם דוקטורנטים ומסטרנטים, אנחנו כבר יותר משש שנים מפרסמים מאמרים בהיבטים תיאורטיים של בינה מלאכותית, אני אחראי לאלפי אנשים שעוסקים בבינה מלאכותית, במובילאיי, אורקם וחלקים נרחבים של אינטל, אז אני יכול להסתכל על שני ההיבטים, גם ההיבט המחקרי תיאורטי וגם ההיבט המעשי וכמובן רכבים אוטונומיים, אני אגע ברכבים אוטונומיים, על הדילמות האתיות ואני גם אדבר על סכנות והזדמנויות, במיוחד במדינה קטנה כמו ישראל, מה ראוי שנעשה ומה לא.

אז דבר ראשון אני אנסה להסביר מה מדהים ומה לא מדהים במה שיש היום בבינה מלאכותית. הדברים שנמצאים במדע הפופולרי הם הדברים הפחות מעניינים, הדברים היותר מעניינים, פחות יודעים עליהם, אז אני אנסה גם להתמקד בהם. אני חושב שיש הסכמה רחבה, גם בקרב מדענים וגם חברות טכנולוגיה, שאנחנו בתחילתה של מהפכת מחשוב סביב בינה מלאכותית. חשוב לציין מה הכוח המניע כי הכוח המניע הוא טיפה מפתיע.

יש שני כוחות מניעים, כוח מניע ראשון הוא שינוי דרמטי בכוח מחשוב, ואני אסביר, והכוח המניע השני הוא שינוי דרמטי בזמינות מידע. אני בכוונה לא אמרתי שום דבר לגבי מדע, המדע הוא לא הכוח המניע. עד היום אין מדע חדש, זו תחייה מחודשת של מדע ישן. מדע ישן וטוב ומצוין, אבל תיאורטי, אני כמובן לא מזלזל, אבל המהפכה הזאת לא נולדה ממדע חדש. היא נולדה, משינוי דרמטי בכוח מחשוב, כוח מחשוב שהוא זמין וכוח מחשוב שהיה בעבר נגיש לממשלות, לארגוני ענק, היום הוא זמין לכולם והוא נובע מהמשך של חוק מור של צפיפות שבבי חישוב וגם ניצול של מאיצים גרפיים למשחקים שעברו הסבה לעולם המדע, ג'י פי יוז למיניהם, למי שמבין. אז אנחנו מדברים על כוח מחשוב דרמטי שזמין היום לכולם, זה מעין דמוקרטיזציה של מחשוב, והדבר השני שהוא מהפכה זה מהפכת המידע, הדאטה, האינטרנט נותן לנו זמינות של תמונות וטקסט, הוא שינוי משנה משחק. שני הדברים האלה נפגשו בערך בשנת 2012 ולא היה כאן מדע חדש.
אז אלה הכוחות המניעים, על מה מדובר? בבסיס מדובר על שתי מגמות. מגמה אחת היא מה שכולם מכירים, נקרא לזה למידה מבוססת מידע. מדובר על מערכות, אלגוריתמים, שיודעות למצוא פרמטרים של ניפוי מקלט לפלט על סמך מידע. מה הכוונה? קלט יכול להיות תמונה, פלט יכול להיות 'תמצא לי את הרכבים והולכי הרגל בתמונה', 'תמצא לי את כל העצמים בתמונה', 'תגיד לי מה העצמים עושים'. תמונה יכול להיות גם וידיאו. אז אם מדברים על רכב אוטונומי, זה הבסיס של רכב אוטונומי, יש לו חיישנים וצריך להבין את העולם הוויזואלי סביב הרכב. קלט יכול להיות חתימת קול, פלט יכול להיות 'תיתן לי הטקסט', 'תעשה ניתוח שפה טבעית', 'מה אנשים אומרים'. זה הבסיס של סירי וקורטנה וכל התקשורת שאנחנו עושים. קלט יכול להיות מידע אישי, פלט יכול להיות המלצות למוזיקה וסרטים, זה נטפליקס. קלט יכול להיות שיחות, פלט יכול להיות רובוט שעושה שיחות ונותן שירות.

אז זה ניפוי מקלט לפלט ואנחנו מדברים על מערכות שהתפקיד שלהן הוא לחקות בני אדם. אז אנחנו מדברים על מהפכה שלקחה בעיות שהיו קשות מאוד למחשוב, כמו זיהוי עצמים, והפכה אותם לזמינות ומדובר על מערכות שמנסות לחקות בעיות שלבני אדם קל מאוד לעשות. לבני אדם קל מאוד להבין שפה, לבני אדם קל מאוד לזהות עצמים, למחשבים זה היה קשה מאוד, היום למחשבים זה כבר לא קשה מאוד.

אנחנו מדברים על מערכות שמחקות בני אדם וכמובן שבמערכות האלה איכות המידע היא מאוד מאוד חשובה. אם יש לנו הטיות במידע אז אי אפשר לצפות שהמערכת תוכל להכליל וכאן סביב זה יש המון דברים שאפשר מבחינת רגולטור להסתכל עליהם, כל מיני הטיות במידע, במדגם האמון. זה נמצא גם בדוח של רועי, הטיות במידע יגרמו להטיות באותם אלגוריתמים, אבל זאת למידה מבוססת מידע.

זה מאוד מעניין, יש המון אפליקציות, אבל זה לא הדבר שיגרום למהפכה. הדבר שיגרום למהפכה הוא הדבר הבא, למידה שלא מבוססת מידע, ופה מדובר על מערכות שהתפקיד שלהן הוא לבצע החלטות. המימוש היום נמצא במשחקים ולכן אולי הציבור פחות מודע לכך, המימוש כרגע נמצא במשחקים וברכבים אוטונומיים.

ובמטוסים, לא?

לא, עדיין לא.

אבל אתה יודע שהמטוס הוא על אוטומט?

כן, אבל אין שם בינה מלאכותית. להטיס מטוס בצורה אוטונומית זה לא דבר קשה, להניע רכב ולעשות החלטות של השתלבות בתנועה הוא דבר קשה, יש עוד סוכנים ואתה צריך לעשות משא ומתן עם סוכנים אחרים. כשאתה במטוס אתה לבד, זה לא דבר כל כך מסובך.

אז אנחנו מדברים על מערכות שהמטרה שלהן היא לא לחקות יכולת אנושית ואין כאן בכלל מידע, מדובר כאן רק על מחשוב, מחשוב שעבר שינוי דרמטי ומדובר על לפתור בעיות קשות. למשל אם אנחנו נסתכל על משחק כמו שחמט או משחק הסיני גו, שהוא משחק הרבה יותר קשה לשחמט, זה משחק שמאתגר את המוחות האנושיים הטובים ביותר. או נסתכל על קובייה הונגרית, שאנחנו יודעים שיש לה פתרון אנליטי, בקובייה הונגרית אתה מסתכל על מצב הקובייה ואתה צריך לחשוב מה הצעד הבא שאני צריך לעשות. יש תיאוריה מתמטית מאוד מורכבת שאומרת מה מספר הצעדים המקסימלי, נגיד צריך 26 צעדים כדי לפתור את הקובייה, צריך הבנה מתמטית מאוד מאוד רחבה בתורת החבורות כדי להבין בכלל את הפתרון, צריך גאונות בכלל לחשוב על הפתרון הזה ובני אדם הצליחו לפתור את הקובייה ההונגרית.

רכב אוטונומי, אחרי שהרכב הבין את הסביבה שלו הוא צריך לבצע החלטות, איך אני מתמזג בתנועה, האם אני משנה נתיב, איך אני משנה נתיב בצורה בטוחה, האם סוכן הדרך השני, הרכב השני, ייתן לי לשנות נתיב או לא ייתן לי לשנות נתיב, למי אני מחליט לתת זכות קדימה, למי אני מחליט לקחת זכות קדימה, יש שם המון משא ומתן שאנחנו עושים. זו דוגמה להחלטות שצריך לקחת ואנחנו יודעים שזו בעיה קשה כי בני אדם לוקחים שיעורי נהיגה ולוקח הרבה שנים עד שאתה נהיה נהג סביר.
אז משחקים כמו לדוגמה שחמט וגו או רכב אוטונומי, הן הדוגמאות, יש מספר דוגמאות די קטן היום והן הדוגמאות של אותן מערכות שמצליחות להגיע להישגים די מדהימים ואין כאן מידע. מה המערכות האלה עושות? המערכות האלה, הסביבה מוגדרת היטב במערכות האלה, מה הכוונה הסביבה מוגדרת היטב? בהינתן מצב, למשל סידור הכלים בשחמט ובהינתן פעולה, כמו הזזת כלי במשחק, אתה יודע מה הולך להיות המצב הבא, או אתה יודע התפלגות על מרחב המצבים. אז במשחקים הדבר הזה מוגדר היטב, גם ברכב אוטונומי זה מוגדר היטב. אז באותן סביבות שמוגדרות היטב מערכות המחשוב מייצרות סימולציה שפותחת את כל העתידים האפשריים תוך שימוש בטכניקות סטטיסטיות שפותחו על ידי מדעני מחשב לפני עשור או שניים, איך לעשות דגימה מאוד חכמה של אותם אפשריים והסימולטורים האלה מייצרים את המידע באופן מלאכותי למערכות לומדות שלומדות, בהינתן מצב, להחליט מה הפעולה הבאה.

המערכות האלה לא מנסות לחקות ידע אנושי, הן רק משחקות נגד עצמן כל הזמן על ידי סימולציה. ההצלחות הן הצלחות די מעטות, אבל אותן הצלחות הן הצלחות מדהימות. למשל במשחק גו המערכות האלה היום מנצחות את המומחים - - - זה משחק שלא חשבו שאי פעם מחשב יוכל להגיע להישגים. הקובייה ההונגרית, זה יצא לפני כשבועיים. מערכת למדה לשחק בקובייה הונגרית משחק אופטימלי, זאת אומרת אם יש 26 צעדים, זה המקסימום, אז הוא משחק ב-26 צעדים, ללא שום הבנה מתמטית, ללא הבנה בתורת החבורות. בנהיגה אוטונומית אנחנו מראים היום השתלבות בתנועה בכבישי ירושלים, הנהג הישראלי מאוד מאוד אגרסיבי, הירושלמי עוד יותר אגרסיבי, לאנשים אין סבלנות, לא ייתנו לך להיכנס אלא אם כן תהיה קצת אסרטיבי והמערכות האלה משתלבות בתנועה ממש כמו נהג אנושי. זה גם כן משהו שהוא בעיה קשה.

אז מדובר על מערכות שמסוגלות, מהדוגמאות המעטות האלה, לפתור בעיות קשות שלבני אדם מאוד קשה לפתור. משחק גו, משחק שחמט, רכב אוטונומי. פה טמון הפוטנציאל. אנחנו מסתכלים מה הפוטנציאל של בינה מלאכותית, לחקות בני אדם זה נחמד, יש המון אפליקציות של חיקוי בני אדם, אבל הפוטנציאל האמיתי של בינה מלאכותית, הדרך הטובה ביותר לראות את זה, נאמר שהיו חוצנים מגיעים לכדור הארץ, חייזרים מגיעים לכדור הארץ, עם בינה הרבה הרבה יותר חזקה משלנו ונניח שהם לא רוצים להשמיד אותנו, אז מה היינו עושים? היינו באים אליהם עם כל הבעיות שיש לנו, סרטן, איידס, כל הבעיות הקשות שאנחנו לא יודעים לפתור, היינו מציגים להם את הבעיות האלה והם היו פותרים, נכון? זאת ההבטחה של הבינה המלאכותית, היכולת לפתור בעיות קשות שכיום אנחנו לא יודעים לפתור.

מה שמפתיע אותי ושאני הבנתי, נניח במשחק שחמט, בעצם החוכמה במחשב זה הזיכרון, נתת לו הרבה פתרונות ועכשיו הוא רק צריך להביא את זה על סמך מה שאמרת לו. אדם לא יכול בשכל האנושי שלו לזכור כל כך הרבה מהלכים, אפשרויות ואופציות, למחשב, שיש לו יותר כוח זיכרון מהמוח האנושי, עכשיו הוא לוקח את מה שאמרת לו ומביא את זה גם למהלך הזה. מה שאתה אומר, אם אני מבין אותך, שהוא חושב. הוא חושב, זה כבר משהו שהוא - - -

הוא לא מחשב קדימה.

הוא לא מחשב קדימה, אבל הוא חושב.

חושב אחרת, נגיד ככה.

מה שלא הכנסת לו. נניח, דיברנו קודם כהכנה לישיבה, נניח מופיע בפני הוועדה רובוט שמבצע ניתוחי מוח. יכול להיות שלב שלא אמרו לו, הוא מגיע לצומת שהוא לא יכול להמשיך בגלל שאף פעם לא נתנו לו מה קורה במקרה הזה, גם לא ידעו, המישהו האנושי לא ידע שיש דבר כזה, כי אנחנו לא יודעים כל מה שקורה, ואז הוא לא יידע מה לעשות או שכן? או שהוא לוקח מעצמו, הוא אומר 'מכיוון שבמקרים כאלה, מכאן שככה, זה אמנם לא המקרה הדומה, אבל אני לוקח כל מיני חיבורים ועכשיו אני מחליט לבד שאני עושה איזה שהוא מהלך כזה'? גם אם את המהלך הזה לא אמרתי לו. זה אולי שונה משחמט, בשחמט יכול להיות שמישהו ייצור סוג של מהלך שאף פעם לא אמרו לו?

כן. בוא ניקח שחמט כדוגמה. הבעיה בזיכרון זה שמספר המצבים הוא אקספוננציאלי, לכן גם המחשב החזק ביותר לא יכול לזכור את כל המצבים האפשריים, הוא לא יכול לפתח את כל העתידיים האפשריים כי כל העתידיים האפשריים זה אם אני אעשה את הצעד הזה, היריב יעשה את הצעד הבא, אני אעשה את הצעד הבא, זה מתפוצץ קומבינטורית וגם המחשב החזק ביותר, לא רק היום, גם בעוד מאה שנה, לא יוכל לפתח את כל העתידים האפשריים. אז גישת הברוט פורס הזאת נתקלת בחוכמה.

מה שמלמדים את המחשב לעשות זה לזהות מצב, שזה הסידור הכללי, מהמצב הזה להחליט לא על סמך פיתוח כל העתידים האפשריים, להחליט מיידית מה המצב הבא שצריך לעשות. כאן נדרשת חוכמה. הדבר המדהים במה שהתפתח הוא שניתן ללמד את המחשב הזה את אותה חוכמה ולפתור בעיות שאנחנו כבני אדם קשה לנו מאוד לפתור. הבעיות של זיהוי עצמים וניתוח שפה הן בעיות קשות, אבל לנו כבני אדם קל מאוד לעשות. שם לא טמונה המהפכה. שם יש הרבה סכנות, צריך לעשות רגולציה. המהפכה באמת טמונה ביכולת לפתור בעיות שאנחנו היום לא יודעים לפתור. פיתוח תרופות חדשות, פתרון לסרטן, לעשות דברים שאנחנו לא יודעים לעשות. אותן מספר דוגמאות, כרגע זה רק תחילתו, משחק גו, שחמט, רכב אוטונומי, קובייה הונגרית. זה הכול, זה לא מספר קטן מול הרבה, זה מה שיודעים לעשות היום.

אני הייתי רוצה להגיע דווקא לנושא של הממשלה.

בסדר.

אז שם טמון הפוטנציאל, הפוטנציאל הוא מאוד מאוד גדול. לגבי סכנות והזדמנויות, אני רק אסכם פה. לגבי למידה מבוססת מידע, אני חושב שרועי דיבר על הסכנות של מידע מוטה. אם אותו מדגם אמון הוא מוטה, אלגוריתמים מוטים, במיוחד אם מדברים על פרויקטים לאומיים או אפליקציות שמשפיעות על הציבור הרחב, למשל אני רוצה לעשות ניתוח סיכון למתן הלוואה, ניתוח למתן שירות, לביטוח, אפילו לענישה, אם המידע מוטה, האלגוריתמים מוטים, פה נדרש לפחות לשאול את השאלות הנכונות. צריך להיזהר עם רגולציה, אבל לפחות לשאול את השאלות הנכונות.

בתחום מערכות שמקבלות החלטה. יש בהחלט מקום להסדרה האתית, אבל צריך לעשות את זה בצורה זהירה. בוא ניקח את הרכב האוטונומי, כי חבר הכנסת מקלב ציין את זה. אחת הבעיות שיש ברכב אוטונומי בתהליך קבלת ההחלטות היא שמצד אחד אתה רוצה לנהוג כמו בן אדם, כי אם אתה תהיה נהג זהיר מדי אתה פשוט תבלום את התנועה, מצד שני אתה רוצה להבטיח בטיחות ואתה רוצה להבטיח שרכב אוטונומי לא יהיה מעורב בתאונות. זה דבר שקשה מאוד לעשות בתוך מסגרת של מערכות לומדות. מערכות לומדות לא מטפלות במקרי קצה ותאונה זה מקרה קצה.

יש מקום להסדרה אתית. אנחנו התחלנו לעשות את זה, פרופ' שי שלו שוורץ, שהוא גם CTO של מובילאיי ואנוכי פרסמנו מאמר לפני כחצי שנה שהמטרה שלו להסדיר את כל השיקולים האתיים מאחורי מערכות אוטונומיות. אנחנו בקשר עם כל הגופים הרגולטוריים בארצות הברית ובאירופה וביפן, לא התחלנו בישראל, קצת מדי קטן בישראל בשביל זה, איך לקחת את המודלים המתמטיים האלה כדי להסדיר אותם מבחינת שיקולים אתיים. אני מאוד ממליץ שגם ישראל תיכנס לזה. זו דוגמה למקום שיש לך מערכת שמבצעת החלטות ואתה רוצה לוודא שיש הסדרה אתית של קבלת החלטות.

הכלים האלה זה בתחום האקדמיה או בתחום הממשלות?

בתחום הממשלות. אנחנו מדברים עם ה-NPSP, עם סנטורים בארצות הברית, עם ה-EU Commission, עם ה-EU NCAP על אותו מודל ואני אשמח גם לעשות את זה בארץ.

רגולציה לשליטה על מידע ופרטיות. פה אני ממליץ לא להיות יותר מדי מחמיר, מדינת ישראל היא מדינה קטנה, ההישרדות שלנו תלויה בהתקדמות טכנולוגית, פרטיות זה לא נושא כזה חשוב, למען האמת, והייתי אומר שהעניין למשל של רפואה דיגיטלית, היא בנויה על מידע. אם המידע הרפואי יהיה נגיש לאותן מערכות, ואני חושב שבישראל אפשר יהיה לעשות מהפכות ברפואה, חוקי הפרטיות שכרגע יוצאים מאירופה, צריך לבחון אותם בצורה זהירה, לא לאמץ כל דבר. יש כאן פוטנציאל של נזק מאוד מאוד גדול של עצירת פיתוח טכנולוגי ואני לא חושב שהציבור זקוק לכל כך הרבה הגנות כפי שהרגולטורים האירופאיים - - -

זה נתון למחלוקת.

נתון למחלוקת, אבל יש דברים ששווים דיון.

אנחנו קיימנו על זה דיונים פה, חברת פייסבוק עצמה הייתה כאן.

והדבר האחרון שהייתי אומר לגבי הזדמנויות, יש את הפוטנציאל של אוטומציה, של איבוד מקומות עבודה, אני מאמין שבסופו של דבר תהיה יותר יצירת מקומות עבודה מאשר האיבוד שלהם, אבל הדבר החשוב, אם אנחנו רוצים שבינה מלאכותית תהיה מנוע צמיחה במסגרת ההייטק הישראלי צריך לעשות כמה שינויים במערכת החינוך, בפרט בחינוך העל יסודי. היום האזרח הישראלי נחשף לחומרים האלה של מערכות לומדות ובסטטיסטיקה מתקדמת. כשאני אומר סטטיסטיקה, זה לא הסטטיסטיקה שלומדים בכלכלה ובפסיכולוגיה ובחינוך על יסודי, מדובר על, זה נקרא statistics learning, סטטיסטיקה לימודית, שזה שילוב של סטטיסטיקה ואנליזה פונקציונלית, שהוא הכוח המניע מאחורי מערכות לומדות.

אז האזרח הישראלי נחשף לזה רק בסוף תואר ראשון, אם בכלל, אתה יכול לעבור תואר ראשון במדעי המחשב ולא להיחשף לזה. אני חושב ששווה להיחשף לזה כבר במסגרת לימודי תיכון. הקולגה שלי, פרופ' שי שלו שוורץ, הוא כתב את ה-ספר למערכות לומדות, זה ספר שנלמד בכל מקום בעולם, הוא מעביר קורס באוניברסיטה העברית, שלדעתי הוא הקורס הטוב ביותר בעולם וזה קורס שהוא זמין, שהוא קיים דיגיטלית. אפשר לקחת את הקורס הזה ולשנמך אותו לרמה של חינוך על יסודי. יש קורסים בקורסרה, היום מבחינת קורסים יש נגישות, זמינות מאוד מאוד גבוהה של חומרים מאוד מאוד מתקדמים.

לחשוף אותם לנושא ולהביא אותם לזה? או שאתה רואה שזה מספיק השכלה היום להשתלב בעולם ההייטק, בעולם החידושים האלה, גם בלי תואר ראשון? זו שאלה שאנחנו דנו בה ומעניין אותי מה אתה אומר.

זו שאלה מאוד מעניינת.

אחרי הכול גם כאלה שעברו מדעי מחשב, בלי הניסיון לא לוקחים אותם גם אחרי זה. למשל דוגמה עכשיו, עשינו מיזם ממשלתי, הכנת מיישמי סייבר. אחרי שהם עברו את זה ולמדו הם אומרים 'אנחנו לא יכולים להתקבל לשום מקום, דורשים מאיתנו ניסיון. גם הממשלה עצמה, שהכשירה אותנו, אנחנו מוצאים את עצמנו למדים ועל אף שאנחנו חושבים שיש לנו את הידע', אפילו לא הבסיסי, הרבה יותר מבסיסי שהם יכולים להשתלב במחסור שקיים, אין ספק הרי שיש מחסור, מדינת ישראל מתמודדת עם מחסור, אתה גם רואה, ככה בכל אופן אומרים המומחים, אני מניח שאתה גם מסכים להנחה הזאת.

כן, הייתי אומר שהשכלה אוניברסיטאית הוא תנאי הכרחי, לא תנאי מספיק. יש תפקידים לצורך אלה שמפתחים בינה מלאכותית שאפשר לעשות גם אם אין לך תואר במדעי המחשב. אני חושב שזה תנאי הכרחי, לא תנאי מספיק. למה הוא תנאי הכרחי? אחד החוזקים שלנו, חדשנות זה לא רק יזמות, המדינה היזמית ביותר היא הודו, אני לא שמעתי על מוצר הודי שמישהו משתמש בו, זה לא רק יזמות, חדשנות זה עומק ועומק טכנולוגי מגיע מהשכלה עמוקה. מובילאיי לא נוצרה מאיזה שהוא טריק פיננסי, יש פה עומק מאוד מאוד גדול והעומק הזה מגיע מהשכלה עמוקה וההשכלה האוניברסיטאית שלנו זה משהו שהתברכנו בו וצריך לחזק אותו. אבל הוא לא מספיק. אם אתה מסתכל על חברות הייטק גדולות, כמו גוגל ואינטל ואמזון וכך הלאה, הן בונות הכשרות משל עצמן, קורסים משל עצמן, קורס של כמה שבועות שהעובדים שלהם עוברים, כי ההשכלה האוניברסיטאית לא מספיקה. היא הכרחית, אבל לא מספיקה.

אבל בכל מקרה אם החשיפה לחומרים המתקדמים האלה נעשית רק בסוף תואר ראשון ולא לכולם אז לא פלא שחסרים לך מדעני מחשב, אלה האנשים שרלוונטיים לתחומים האלה. אני חושב שיש מקום לחשוף את זה בהשכלה תיכונית.

זה חשוב. גם כשזה מקצועות קשים, אולי הרבה לא רוצים להתמודד, אבל אני חושב גם הדימוי הסביבתי, וזה חלק ממה שאנחנו עושים עבודה על המקצועות האלה, שהם באמת מקצועות עתידיים והם המקצועות שחשובים. אני מודה לך בשלב הזה. ודאי עוד יהיו שאלות, גם הזמן שלנו מוגבל.

לפני שאני אבקש מפרופ' משה בן בסט, חבר הכנסת יצחק הרצוג, אני חושב שבשלב הזה חשוב שתגיד את הדברים.

אני רק אגיד בקצרה. אנחנו נמצאים בעידן של שינוי עצום באנושות, אני חושב שהרעיון של ה-AI, של הבינה המלאכותית, הוא נוגע בכל תחום של החיים. אז אתה, פרופ' שעשוע, בצדק, מתמצת את זה עכשיו לארבעה תחומים מוגבלים, אבל האמת היא לא בדיוק כך, זה משיק לעולמות תוכן אדירים שאתה פוגש אותם בכל מקום. נתחיל ב-personalized medicine, נעבור לביג דאטה, שלא לדבר על תוכנות מתוכנות שונות שמתערבות לך כבר בחיים. אפילו בעת שאתה כותב הוא מכתיב לך את הטקסט להשלמת המשפט. זה הכול נגזרות שמשפיעות על כך שאדם יהיה תלוי בצורה מוחלטת במישהו אחר, או גורם טכנולוגי כלשהו שיקבל את ההחלטות בשבילו. זה נראה רחוק, אבל זה לא באמת רחוק. זה נוגע כבר לעולם הפיננסים וזה נוגע לעולם תורת הלחימה ותרבות הקרב. נמצא פה חבר הכנסת לשעבר, פרופ' יצחק בן ישראל, שדיברנו על זה כבר לא מעט בעבר.

לכן אני חושב שהדיון הזה הוא כל כך קרדינלי, כל כך קריטי, כי יש בולמוס. זה נהיה הבאזוורד של כל התעשייה, כולם רצים לשם עכשיו לדבר החדש אחרי דור האינטרנט, אבל בפועל אין איזה שהיא ראיית על שאומרת איך ייראו החיים שלנו עוד דור, האם נהיה תלויים לחלוטין במשהו שהאדם הפשוט לא יידע, לא יוכל יותר להתנהל בלעדיו ומה זה יעשה לחיים שלנו בכלל מבחינת שאלות של מוסר. אתם יודעים את האמת, יש אפשרות שהמכשירים והמכונות והטכנולוגיות הללו יפתחו גם איברים בבני אדם בהמשך. זה נראה רחוק, אבל הכול אפשרי. אנחנו גם יודעים שבנקים לא יהיו עוד 20 שנה.

לכן זה משפיע על השאלה שנקראת אובדן הפרטיות וכבוד האדם. פרופ' שעשוע, הפיתוי, הרצון של כולם לתת גיבוי לתעשייה הזאת הוא עצום, אין עוררין על כך, זה גם יהיה ככה, כי זה בלתי נמנע, אבל שאלות שעולות מה קורה בעידן של מנהיגים תאבי כוח ושכרון כוח שישלטו אולי במכונות הללו ויכתיבו משהו, זו גם אפשרות שאתה לא יכול לצפות אותה היום. אתה אומר 'תן להם את כל המאגר הרפואי של כל בני האדם', זה מה שכולם רוצים לעשות, אבל בפועל אתה יכול להגיע למצב שבו גם זה ינוצל לרעה. לכן האיזונים מעוררים דילמה שעוד לא התחלנו לדון בה. אז שיהיה בהצלחה בדיון הזה כי הוא דיון מאוד מאוד חשוב.

תודה, תודה על ההשתתפות שלך בנושא ואני מניח שגם בהמשך. ועכשיו נעבור אליך, פרופ' בן בסט.

אנחנו נתחיל בחינוך, כי במשלי בהמשך, יש באיזה שהוא מקום 'ובכל קנינך קנה בינה'. זה לעניין הזה. אני מסכים גם עם הדברים שנאמרו פה לגבי איזה כוח אדם להכשיר. בלי ספק הייחודיות שלנו זה ביכולת ליצור מוצרים שדורשים ידע עמוק, כי אחרת קל מאוד לחקות אותם ולהתחרות בנו וכן הלאה. אבל יחד עם האנשים שהם האנשים המעמיקים ומבינים יש הרבה מקום לאנשים עם הכשרה נגיד פחותה יותר. אני הייתי רוצה להתחיל מפרויקטים מהסוג שדיברנו עליהם, דווקא לא דברים שקשורים למשחק או לראייה ממוחשבת ודרך הדוגמאות האלה אני מקווה שנבין יותר את הפוטנציאל לממשלות לעשות את זה.

אני בכל אופן אגיד את זה, אני גם כיוונתי לכיוון הזה בגלל שיש היום אוכלוסיות במדינת ישראל שיש להם עומק, רק הם לא יכולים לעבור היום את כל השלבים של תואר, הם יכולים להתחיל בשלב, באמצע, בהכשרה של לימוד תעודה ואז להשתלב ואת העומק יש להם מארגז כלים אחר שהם - - -

זה דיון נפרד.

אני אמרתי את זה. את הדבר הזה יש להם, זה גם הייחוד שלנו, בהודו אין את זה.

טיפה רקע על עצמי עם דוגמאות שנוגעות לדברים שעלו פה. אל"ף, תאמינו או לא, הדוקטורט שלי מ-1975 זה על אינטליגנציה מלאכותית לדיאגנוזה רפואית בעזרת מחשב בבית חולים שיבא על אנדוקרינולוגיה. מיד אחרי הדוקטורט, זה היה תחום חם מאוד אז, קיבלתי הזמנה להצטרף ל-USE בקליפורניה ושם עסקתי ב-intensive care unit, ובאמת כשהגענו לשלב של לתת את הכלי לרופא לעבוד ממש כשהפציינט מולו נשאלה השאלה האם אני צריך ביטוח רפואי, כשבארצות הברית זה כמובן נושא מאוד מאוד רגיש, אלא אם כן אנחנו לא יכולים להתחיל אפילו בניסיונות כי זה משפיע על חיי אדם, אבל לא זאת הנקודה.

כמו שכולכם יודעים על בינה מלאכותית, אז הייתה איזה שהיא פריחה, מה שנקרא האביב הראשון בשנות ה-80 ואמצע שנות ה-90, אחר כך קצת חורף ועכשיו מתחילה הפריחה החדשה. ב-85' חזרתי מארצות הברית לישראל ואני מוזמן לראש מפא"ת והוא אומר לי 'תשמע, אני שומע על הבינה המלאכותית', אז התחלתי ללמד את הקורסים באוניברסיטה וככה התחלתי לקבל פה ושם, פה הרצאה, שם עבודת ייעוץ, מהר מאוד נגמר לי הזמן והתחלנו חברה קטנה שעסקה ביישומים של בינה מלאכותית.

אני רוצה לתת לכם כמה דוגמאות שכבר אז עשינו בצה"ל שדורשים אכן גם דאטה אבל גם שכל. בנקודה הזאת אני אדגיש שמגיע למה שאתה קראת באמת יפה מאוד במסמך לא לתחומים ספציפיים, אלא לתחומים שדורשים פתרון בעיות יותר מורכבות, אני נגד זה שאנשים כל פעם מייצרים את העניין שיש פה תחרות בין אדם למחשב מי יותר חכם. אני מאמין שבמערכות האלה, המערכות הממשלתיות, התוצר הטוב ביותר יהיה אדם ומחשב שעושים יחד יותר טוב מכולם.

אני אתן לכם שתי דוגמאות. האנשים שקצת יותר מבוגרים פה בטח זוכרים את הפתקים שהיו בכבישי ישראל בזמן כל מלחמות ישראל, מלחמת יום כיפור והמלחמות שאחרי. אי אפשר לנהל את התחבורה פה, למה? כי כל רס"ר השתלט על איזה צומת כי הוא חשב שהיחידה שלו עושה את זה ואז התחלנו פרויקט שנקרא פרויקט ההיסעים של צה"ל ואחרי שנתיים-שלוש יצרנו מוצר, בעצם תוכנה, אתה לוחץ על כפתור, הרמטכ"ל אומר 'תן לי תכנית 7', אתה לוחץ על כפתור והוא מוציא לך תכנית איך יתנועע הצבא לקראת הגיוס. מה הרעיון בגדול? זה שגולני נקרא עד שעה שתיים, צנחנים לפה, אלה שם, טנקים צריכים מובילים.

עכשיו, חזרה למה שנאמר פה גם קודם, אין בן אדם שיכול לחשב ולקבל החלטות בהיקפים האלה. אתה מדבר פה על עשרות פרמטרים של זמן, גיאוגרפיה, כמובן דרישות מבצעיות וכן הלאה. היפה פה היה שבמקום שתעמיד מישהו - - - ופה ההבדל בין בינה מלאכותית ובין המחשבים שאתם מכירים, אם תסתכלו, את רוב המחשבים שאתם מכירים אתם מדריכים את דרך הפתרון, אתם אומרים לו, אפילו בגוגל, אתה אומר לו 'תראה לי זה', 'תראה לי זה'. אנחנו אומרים, למשל בתכנית ההיסעים, אז מישהו יגיד 'תראה לי מה המצב בכביש 7 אם אני הולך לתכנית פה', בינה מלאכותית זה שאתה תגיד למחשב מה הבעיה, תלחץ על כפתור ותקבל פתרון ומפה מתחיל דרג יותר גבוה של קבלת החלטות.

נחזור למערכת ההיסעים, אז אחרי שנתיים-שלוש גמרנו את הדבר הזה, השווינו את זה מול התכניות, מעין תחרות כזאת, מה שאנשים עשו ואכן יצא שהמערכת מוציאה לפחות באותה רמת איכות ואז הגענו לבניין הגבוה בקריה, שאז עוד היה הכי גבוה בסביבה, היום כבר לא, והנה אנחנו שם וכל נכבדי צה"ל יושבים שם. תכנית 7, אתה לוחץ על כפתור, עשינו סימולציה שמראה את כבישי ישראל וכל חמש דקות במחשב או כל דקה במחשב זה שעה במציאות ואתה רואה איך הכוחות מתחילים לזוז. תכנית 7 נגמרה אחרי כמה דקות והם מסתכלים ואז האלוף המתאים אומר 'תראה, זה נכון שזה מתאים לתכנית שנתתי לך, אבל גולני, לא כל כך קריטי שהם יגיעו עד שעה 12 לראש הנקרה'. אני גולני דרך אגב, בגלל זה כל הדוגמאות על גולני, 'לא אכפת לי שהם יגיעו בשעה שתיים אם זה יעזור לי לסדר את המובילים של התותחנים להגיע שעה יותר מוקדם'. אמרתי לו, 'קדימה'. משנים את השינוי הזה, לוחצים כפתור ובום יוצאת תכנית חדשה.

כאלה דברים לא היו קודם והם בפירוש דרשו טכנולוגיות בינה מלאכותית שמשתמשות גם בדאטה וגם בידע. זה לא שאנחנו המצאנו לבד את צורת החשיבה, אלא ישבנו למשל עם כל מיני אנשי היסעים והבנו לפעמים את הטריקים של החשיבה שהם עושים. לא אלאה אתכם פה בפרטים, אבל מערכות מרתקות אחרות שהיו, חלקן כמובן מסווגות, אבל למשל כל מערכת הערכת המצב של סטי"ל, הסטי"ל שקיים עכשיו התחילה אז ולמעשה כל חיל הים חושב היום בצורה הזאת. מה הרעיון שם? בדרך כלל בסטי"ל יש לך הרבה חיישנים, אבל אז היו שופכים את כל הנתונים על מין צג אלקטרוני והבן אדם היה צריך להחליט שזאת ספינת סוחר תמימה וזאת ספינת ביון סובייטית שמתחפשת לספינת דיג וזאת ספינת פטרול סורית וכן הלאה וכן הלאה. לקחנו את הסרט של אנשי חיל הים, לא ברמה של החיישנים, כי זה הנדסה, ושילבנו אותו ביחד והאמת היא שבסיכומו של דבר יצאה מערכת שתומכת, שוב, תומכת יפה מאוד, כשבן אדם ומכונה ביחד עושים את זה יותר טוב.

יותר מאוחר אשתי ואני התחלנו איזה שהיא חברה שהצליחה בסדר, נגיד ככה, אז יצאנו גם לארצות הברית, אני חזרתי לארץ לפני כשלוש שנים ובעצם חזרתי וממש השנה התחלתי ללמד גם באוניברסיטה, בבינתחומי, קורס לבינה מלאכותית בביזנס סקול, זאת אומרת לא בהכרח לאנשים שיפתחו את זה אלא לאנשים שינהלו את זה. במקביל אני משמש בתור יושב ראש של חברת MOBI שהיא עוסקת בפתרון בעיות תחבורה ברמה הציבורית. אני לא רוצה שזה יישמע פה כאיזה פעולת מכירה, אני רק רוצה להראות דוגמה של דבר ממשלתי של מחשב שמשתמש בבינה מלאכותית. מה הרעיון שם? יש בעולם מספיק חיישנים שיכולים להגיד לך כמה מכוניות נכנסו מכביש 4 לתוך תל אביב וכמה מכביש 1 וכמה מכביש זה והכול פקוק, אז מה עושים? אם נחזור למה שדיברנו קודם, קודם כל צריך לעשות הערכת מצב, להבין איפה בדיוק הפקקים, אחר כך להגיד, רגע, אם אני לא עושה כלום לאן זה מתפתח ואחר כך אוקיי, אז מה הפעולה?

נדמה לי שגם אמנון הזכיר קודם, או מישהו פה, שהקונטקסט מאוד חשוב, האם הקונטקסט זה יום ראשון בבוקר, ערב חג, על מה אנחנו מדברים? הפעולות שאתה יכול לעשות זה לשנות נתיב מסוים בשעה מסוימת להיות רק נתיב ציבורי, או לפתוח את הרמזורים בצורה אחרת, או משהו כזה, זה מה שהחברה הזאת עושה. דרך אגב בארצות הברית זה דווקא פועל יפה מאוד, פה הם התקינו את זה ביפה נוף בחיפה ואפשר למדוד שם שזה בשנה יכול לחסוך 7 מיליון ₪ בשנה באופן ממוצע, זאת אומרת שהערך הכלכלי של להכניס בינה מלאכותית לתוך המערכות הממשלתיות שלנו בוודאי נמצא שם.

אני אסיים רק בדוגמה אחת. התחלנו ממש עכשיו פרויקט מחקרי בבינתחומי שאנחנו קוראים לו לצורך העניין באנגלית national emergency responders. נפגשנו עם מפקד פיקוד העורף לשתי ישיבות והרעיון הוא, אם תזכרו את הרעיון שאמרתי קודם על ההיסעים, זה גם דברים שעסקתי בהם בארצות הברית בנושא של חברות שירות, איך מנהלים חברות שירות בתקופת אסון. בוא נגיד קטרינה או סנדי בארצות הברית או כל השיטפונות שאתם שומעים עכשיו באנגליה, אז לנו בישראל יש צרות רק בגלל השכנים, להם יש כל שנה אסון בסגנון 'צוק איתן', בכל שנה ושנה כמה וכמה אירועים כאלה. שם עלתה השאלה, סיפקנו מערכות בינה מלאכותית שעוזרות להם להתמודד עם האסון. אז באנו למפקד פיקוד העורף ואצלו הבעיה מורכבת כי יש גם סינכרוניזציה של כוחות, יש מגן דוד, יש מכבי אש, יש חומרים מסוכנים, פיקוד העורף, יש צה"ל בסביבה, משטרה, והשאלה שנשאלת איך אנחנו גורמים לסינכרוניזציה של כל הכוחות האלה כך שאיזה שהיא פונקציית מטרה שתוגדר על ידי הממשלה היא זו שנשאף אליה בסוף. זה לא שמעניין אותי כרגע העיר הזאת או העיר הזאת, אלא מה הממשלה רוצה להשיג מבחינת הדברים האלה.

אני חושב שיש לנו שם אוזן קשבת. דרך אגב, המון מחמאות לפיקוד העורף בקטע של הכנת התשתית המחשובית ברמת נתונים. זה מדהים מה שהם עשו במובן זה שהם יודעים בכל דקה ודקה כמה חולים ברמב"ם, על איזה מיטות ואיפה יש חומרים מסוכנים, ממש מדהים. עכשיו נשאר לטעמי, מה שהצעתי להם, איך אנחנו לוקחים את זה עכשיו ומעלים את זה לרמה של קבלת החלטות כי לא יהיה זמן שם. זה הרעיון של בינה מלאכותית.

אני מאוד מקווה שיהיה המשך לדיונים האלה כי אני חושב שאפשר לעשות פה הרבה מאוד, גם בשטח של הכשרת אנשים ובטח ביוזמה של פרויקטים לאומיים שיכולים לקדם אותנו בנושא הזה.

תודה על הדברים, באמת מרתקים מאוד. מנעתי מעצמי לשאול שאלות על אף שזה עמד לי על קצה הלשון, אבל רציתי לתת לך לסיים ואני רוצה לתת לעוד אנשים. אני רוצה שישמעו אנשים אחרים, אנשים שנמצאים בממשלה או מינויים חדשים שתיכף נשמע, שכבר נמצאים ומתפקדים, איפה הממשלה צריכה להיות, מה היא כן מצליחה לעשות או לא מצליחה לעשות, אני בעצמי שואל, למשל אם התכנית הלאומית לבריאות דיגיטלית, אם היה אפשר להוציא את זה החוצה, מה הממשלה רואה את עצמה היא עושה, או מוציאה החוצה. יש כאן הרבה בעיות מכיוון שהחקיקה לגבי זכויות הפרט, צנעת הפרט וכל מיני דברים שהממשלה מעלה, אז יכול להיות שנכון שהיא תעשה את זה לא רק בשביל עצמה אלא אולי בשביל לראות כאן יוזמה למדינות אחרות שייקחו את זה, כמו שעשינו בסייבר.

אבל אני לא רוצה להרחיב, אני רציתי לשאול אותך על הפרסום שהתפרסם היום אחר הצהריים, שגוגל הפסיקה את ההתקשרות עם הפנטגון. זו לא רק שאלה של כוחות ומערך בזמן מלחמה, הבינה המלאכותית הולכת הרבה יותר רחוק, בעקבות מחאה של אלפים מעובדי גוגל, שלא היו מוכנים להיות שותפים לשיבושים שמערכות הביטחון רוצות לעשות בתחום המידע שיש. זה מעבר לשאלות של חיים, הרבה יותר מאתיות, הרבה יותר מזה. לכן אנחנו כבר נמצאים מבחינה פרקטית בשאלות שאנחנו צריכים לשאול את עצמנו הרבה יותר.

לפני שאני אתן לפרופ' יצחק בן ישראל, פרופ' שעשוע, רצית להעיר הערה.

חשבתי על מה שאמר חבר הכנסת הרצוג. הדיון הזה יכול היה להיערך גם בארצות הברית, גם באירופה ונערך כאן, אני חושב שכאן זה שונה מאשר בארצות הברית. המקום שלנו כמדינה קטנה מחייב אותנו לחשוב טיפה אחרת. אני חושב שמדינה בגודלנו צריכה להתרכז יותר בהזדמנויות ולא בסכנות. מדינה כמו ארצות הברית יכולה לחשוב גם על הסכנות, אנחנו צריכים, לדעתי, להתרכז יותר בהזדמנויות. אנחנו מדינה קטנה, יש פה תחום שהוא מהפכה, אנחנו צריכים לחשוב מה מתוך התחום הזה אנחנו יכולים להוביל, מה מתוך התחום הזה אנחנו יכולים להשתלב, איך אנחנו מוודאים שאנחנו לא נשתרך מאחור, שהמנוע ההייטקי שלנו, שאנחנו כל כך גאים בו פתאום יתמוסס ויילך לו כי יש בינה מלאכותית שנעה לה קדימה. אני חושב שהעניין של ההזדמנויות הרבה יותר חשוב מעניין הסכנות, כי אנחנו יכולים לבלות את השעה הקרובה לדבר רק על הסכנות.

אנחנו הפכנו סכנות להזדמנות. נושא הסייבר זה סכנה ואנחנו הפכנו את הסכנות להזדמנויות. זה מצד אחד. זה נכון מה שאתה אומר, אבל מצד שני, קח דוגמה לגבי תופעות של הסתה ברשת, אלה סכנות, אנחנו צריכים לדון בזה, נכון שיש היום תקנות אירופאיות שהקדימו אותנו בעניין הזה, אנחנו מקבלים פה משלחות מהרבה מדינות באירופה של ועדות מדע וטכנולוגיה או שרי מדע וטכנולוגיה, שהם רוצים ללמוד מאיתנו גם בנושא הסכנות, איך אנחנו מתמודדים עם הדברים האלה. יש בזה גם מובן מאליו, סכנה של הסתה ברשת, החלק המעשי של זה היה הרבה יותר נוגע למדינת ישראל הקטנה הזו. הסתות ברשת שהביאו לידי פעולות טרור כאלה ואחרות, כשמישהו מוסת באירן נגד ארצות הברית, נגד צבא ארצות הברית, אז ההזדמנות שלו לפגוש חייל מארצות הברית היא כמעט הזדמנות לא ממשית, אבל כאן הוא מוסת, הוא יוצא ומתחת לבית שלו הוא פוגש יהודי או מישהו שזו הייתה הכוונה שלו והוא מיד - - - אנחנו דנו בסכנות האלה הרבה יותר, על אף שזו לא הזדמנות, אלה בסך הכול תופעות, הייתי מחכה לארצות הברית שתדון בעניין הזה, אנחנו היינו בעניין הזה רחוקים יותר, אנחנו כבר מנסים להוביל חקיקה בעניין. אתה צודק בעניין ההזדמנויות, אבל אין לנו בררה אחרת, הכרח לא יגונה, אנחנו צריכים - - - עובדה שהפכנו סכנות - - -

אי אפשר להתעלם מכך שהסייבר נוצר בגלל הידע הצבאי שלנו, הביטחוני, ומשם עברנו לתחום האזרחי. שילוב של הדברים ועובדה שישראל בחלקים האלה היא הייתה יוזמת, אבל אי אפשר להשתלט על הכול וצריכים לבחור בתוך הדברים האלה מה בקדימות.

פרופ' ואלוף במילואים יצחק בן ישראל. אתה ודאי לא אורח בוועדה כאן, אתה מופיע כאן הרבה. אנחנו מלווים אותך בכמה תפקידים, זה נכון - - -

תוסיף לו לתואר גם חבר ועדה לשעבר.

חבר ועדה לשעבר, אבל אפשר לספר על התפקיד החדש שקיבלת?

אני לא רוצה להתייחס, זאת אומרת זה נורא קל להתווכח על כמעט כל משפט שאמרו כאן כי לכל אחד יש דעה משל עצמו וזה תלוי באיזה הקשר, אני רוצה לדלג על כל הדברים הללו ולצאת מהרישא של ההערה האחרונה של פרופ' שעשוע, שאומרת בעצם כל מה שאנחנו מדברים כאן גם כל העולם יודע וכולם עושים את זה בלי לחכות לנו.

אני לא הבנתי כך את מה שהוא אמר.

אנחנו נורא גאים באוניברסיטאות שלנו, יש אוניברסיטאות, לצערי, יותר טובות בעולם. אנחנו נורא גאים במפא"ת שלנו, יש גופי פיתוח יותר - - - השאלה היא באמת מה היתרון שלנו. זו שאלה נורא חשובה. היתרון שלנו, כמו שעשינו בסייבר, דרך אגב, כי זה אותו דבר בדיוק, זה לא ששאר העולם לא התעסק בסייבר ואנחנו המצאנו את הסייבר, זה לא היה ככה. מה שאנחנו עשינו, שהבנו ברגע מסוים שלקוטן שלנו יש איזה שהוא יתרון, זאת אומרת אנחנו מסוגלים לעשות דבר שבאמריקה לא יעשו, או באנגליה, או בכל המדינות המתקדמות, זה את כל האלמנטים באקו סיסטם הזה שצריך למשהו אם הוא באמת חשוב, וסייבר עבר את המבחן הזה, כל האלמנטים האלה אפשר לקשור ביחד, לקשור ביחד, ולבנות בסוף איזה שהיא מערכת שבגללה החיבורים הפנימיים והקוטן שלנו, שמאפשר להגיע לכל מקום ולרתום את כולם, מאפשר לנו לעשות צעד לאומי, הוא צעד של כל האקו סיסטם, הוא לא רק חיזוק החינוך.

דרך אגב, למה אנחנו לומדים סייבר בתיכון? זה לא כמו מה שמשתמע מההערה שלך, כי אנחנו חושבים שתהיה להם יותר עבודה אחר כך, לא זאת המטרה, כי אנחנו צריכים אותם אחר כך שילמדו את הדברים הנכונים באוניברסיטה. בדיוק מאותה סיבה אנחנו מלמדים אותם מתמטיקה, זה לא כדי שיילכו לעבוד כמתמטיקאים, זה השכלה כללית שאנחנו צריכים אותה אחר כך אם אתה מסתכל בראייה כוללת על כל האקו סיסטם.

עכשיו, אנחנו יכולים לעשות את זה, גוגל לא יכולה. לגוגל כשחסר לה אנשים באינטליגנציה אלחוטית והיא לוקחת ושוכרת, כולל אצלי באוניברסיטה, את טובי הפרופסורים ואתה לא יכול להתחרות איתה או במיקרוסופט, כי במשכורות אי אפשר להתחרות איתם, אבל היא לא יכולה להחליט שהיא מגדילה את ההיצע על ידי זה שהיא מלמדת בבתי ספר תיכוניים או כל מיני דברים כאלה. זה בדיוק היתרון שיש למדינה והיתרון הזה, ניצלנו אותו פעם אחת בצורה שהצליחה לנו מאוד, זה לא ערובה, דרך אגב, לעתיד, אבל הצליחה לנו מאוד בסייבר לפני שש-שבע שנים, ובחצי השנה האחרונה חברי ד"ר אביתר מתניה, שעזב את הסייבר ב-1 בינואר כי נגמרו לו השושנים לפי המינוי וביחד כתבנו כמה ניירות על הדבר הזה ובסופו של דבר ראש הממשלה בימים אלה עומד למנות, לא מינה, כי הוא צריך את הבדיקות המשפטיות וכל הפרוצדורה שמי כמוכם מכיר לפני שממנים, עומד למנות אותי ואת אביתר ביחד לעמוד בראש מיזם כזה. מה זה מיזם? מטרת המיזם להגיש תכנית לממשלה, זה לא לעשות את כל הדברים האלה, להגיש תכנית ממשלה שהיא תהיה דומה בעיקרון המוביל שלה לתכנית שהגשנו בסייבר בזמנו, שאני הגשתי בזמנו בסייבר, שכוללת את כל האלמנטים, חינוך, תעשייה, ממשלה, ביטחון. יש חלקים שלא צריך כל כך לדבר עליהם, אבל זה מוכרח להיות כלול בדבר הזה, במיוחד בתנאי הארץ שהצבא הוא מין סוג של המשך המערכת החינוכית. לרוב האוכלוסייה, לא לכולם, אתה הולך לבית ספר עממי, אחרי זה לתיכון, אחרי זה לצבא ואחרי זה הלאה וכל היחידות שאנחנו מכירים וכל הדברים הללו.

יש לזה השלכות עצומות. הכוונה שלנו היא להתעסק בתכנית שתדגיש לא רק את טכנולוגיות הליבה, שהוזכרו פה פחות או יותר, אני לא רוצה להוסיף להן. דרך אגב, אני רק רוצה להעיר שיש עוד כמה טכנולוגיות קשורות, זה מופיע במסמך שלנו, שהן קשורות לזה, אבל לא צריך פה עכשיו להלאות את כולם, אבל טכנולוגיות הליבה הן באמת סביב איזה שהוא שילוב בין הסיפור הזה החדש של אינטליגנציה מלאכותית בסגנון של למידה עמוקה וכל הדברים האלה יחד עם מדעי הנתונים, זה איזה שהוא שילוב שלהם, ויש גם טכנולוגיות אחרות שאנחנו נבדוק שהן קשורות לעניין הזה. הכוונה היא בסופו של דבר, כמו בסייבר, להעמיד את ישראל במצב שהיא נהפכת לאחד מהמרכזים העולמיים, אנחנו לא היחידים, כמו בסייבר, אבל מרכזים מובילים בעולם, על ידי נגיעה בכל ההיבטים של האקו סיסטם. עד כאן.

אני רק שואל אם במסגרת המנדט שלכם אתם גם אמורים לבדוק או להציע לממשלה עצמה, איך היא צריכה להיות - - -

רק לממשלה עצמה.

לא, אתה אומר בתחום היזמות, כלומר חינוך זה נכון, אבל אני מדבר איתך - - -

זה הממשלה.

בין בנגישות לאזרח מבחינת חקיקה, הסדרה, שיתופים בינלאומיים, איפה אנחנו - - -

כל זה.

האם יש מישהו שמוביל כאן? האם הממשלה נמצאת במקום הנכון? האם כבר נמצאת, היא מדביקה את מה שקורה? איפה אנחנו נמצאים?

אז נכון להיום כל משרד במשרדי הממשלה, אני לא אגיד כל משרד, רוב משרדי הממשלה, יש להם נגיעה בתחום הבינה המלאכותית וכל אחד עושה בתחומו. זה כבר נכון להיום, משרד המדע, אני רואה פה את - - -

בצורה שכל אחד ביוזמה עצמית, או הנחיה ממשלתית? יש מישהו שמוביל?

לא, כולם מתוך הבנת הצרכים של עצמם, אין הנחיה ממשלתית. כל הרעיון במיזם הזה - - -

אתה יכול להגיד לי שמישהו במשרד המשפטים דן, היה דיון אחד בנושא בינה מלאכותית?

כן. כן.

לא עם מערכת הביטחון?

התשובה היא כן.

בנושא אזרחי לא בנושא ביטחון?

לא, לא בביטחון. זה בהיבטים של, אפילו אני השתתפתי בדיון אחד כזה. זה בהיבטים של מה שיכול לצאת מהבינה המלאכותית.

נניח שוודאי שהתכנית הלאומית לבריאות דיגיטלית, משרד המשפטים צריך לדון, זה חלק - - -

אבל אתה מתפרץ לדלת פתוחה. זה בדיוק מה שאמרתי. במקום שכל משרד יעשה את ה - - - ככה זה קורה בכל העולם, כל אחד שרוצים לשים לו אוטו אוטונומי על הכביש, אז הוא מיד מתחיל לחשוב מה הוא עושה בתחום המשרד שלו בשביל רגולציה, בשביל כל מיני דברים כאלה. במקום שזה יהיה, זה בדיוק הרעיון, שנעשה משהו דומה למה שעשינו בסייבר, שזה אומר ארגון ממשלתי. עכשיו, אני לא יכול להגיד לך אם בסוף יוקם, בסייבר הקמנו גוף במשרד ראש הממשלה, אני לא יכול להגיד לך אם זאת תהיה המלצתנו או לא כי עוד לא התחלנו לעבוד, אני מדבר על דבר שזה עתה רק הותנע, אבל הרעיון הוא לגרום לזה שזה יהיה - - -

הוא אומר שמה שקורה, שעה בהצגה זה נהיה חמש דקות במחשב, ככה פרופ' משה בן בסט, הזמנים כאן הם קצרים יותר, זה שנות אור ה - - -

אם אתה חושב שאפשר להאיץ את זה על ידי זה שלמשל - - -

לא, המציאות היא - - -

אתה רוצה להצטרף אלינו ולעזור? אני אשמח.

לא, אני לא רוצה להנחות אתכם, הפוך, אני מאוד מברך על הדברים האלה - - -

אני מאוד שמח שאתה רואה את זה ככה, כי גם אנחנו חושבים. עכשיו בלי ציניות, אני מדבר ברצינות.

העובדה שאנחנו רואים את זה ושאנחנו דנים בזה ומקיימים דיונים - - -

אני חושב שזה מאוד חשוב, התמיכה, כי זה באמת הולך לשנות לנו את החיים.

אני רוצה לחזק את התפקיד שלכם. בתוך דבריי יש קצת ביקורת מסוימת, סמויה, לא ביקורת, אלא זרז, אני רוצה לזרז את הדברים, גם בלי ביקורת, אני לא חושב שזה ביקורת, אבל - - -

אני שמח, אנחנו חושבים שצריך לזרז וצריך את הדחיפה הזו והתמיכה של ועדת המדע בכנסת היא חשובה. אני עכשיו מדבר בלי ציניות, אני אומר ברצינות, זה מאוד חשוב, יש לנו הזדמנות, אנחנו מתכוונים לסיים את העבודה שלנו תוך מספר חודשים. לא מדובר על שנה או משהו כזה, זה זמן קצר. אחר כך יתחיל כל הסיפור כולו שצריך לבצע את זה. זה ייקח כמה שנים. השינוי הטכנולוגי פה הוא עצום, כל הדברים האלה שפרופ' שעשוע דיבר עליהם, של מכונות שאיכשהו לומדות בעצמן או במשחק נגד עצמן, זה כולו תיאורטי, המאמר הראשון יצא ב-2014 על העניין הזה, או תחילת 15', זה קצב עצום, זאת אומרת קצב השינוי הטכנולוגי זה לא משהו שהיינו רגילים, אבל נצטרך להתמודד עם זה.

הכינו לי כאן בוועדה, מנהלת הוועדה, מאמרים. אני ראיתי את הפערים שיש, יש כתבות שיצאו, ראיתי את הפערים של בין מה שיצא לפני שנה וחצי ובין מה שעכשיו, פשוט לראות על מה דיברו אז ועל מה אנחנו מדברים היום, באיזה פערים אנחנו מדברים.

הייתי רוצה להציע משהו מאוד פרקטי. אחד הדרכים לקדם את זה בתוך הממשלה זה קודם כל שהאנשים במערך הממשלתי יידעו מה זה. אני מוכן להתנדב פה כדי לעשות בסביבות אוקטובר איזה שהוא יום עיון לכל משרדי הממשלה בבינתחומי בהרצליה, נעשה להם סדרה של הרצאות עם אנשים מתוך המשק הישראלי.

אני חושב שזה רעיון טוב.

לפחות נדע מה הפוטנציאל ומה זה באמת אומר, כי האמת היא שמחשבים חושבים כמו בני אדם זה - - -

הייתה איזה הרצאה שעשיתם באילת והבאנו לפה, שהפתיעה את כולם.

בנק הגנים.

בנק הגנים. בגנטיקה, אנחנו כאן הבאנו הרצאה שהייתה בחוץ ו - - -

כשיודעים מה זה במובן הפרקטי זה עוזר.

אני רק אומר לפרופ' יצחק בן ישראל מה הם מגיעים היום. אני לא יכול להתפרש על כל העניינים, אני רק יכול להגיד לך שגם אחרי שאנחנו מדברים על הממשלה ותיכף ידברו פה, חלק מהתפקידים שהם עושים, יש פערים בתוך הממשלה, פערים קוטביים בתוך אותו משרד. אם אנחנו מדברים על ממשל זמין וישראל דיגיטלית, בתוך אותו משרד, חלק אנחנו יודעים ויש חלק שנמצא, מתקנים שנמצאים רחוק מאוד, אני מדבר איתך עוד לפני הבינה.

זה בדיוק טבע האדם בכלל, טבע ממשלות עוד יותר. כל הרעיון שאני מספר לכם עליו, כמו שעשינו בסייבר - - -

כן, הסייבר זה סיפור הצלחה.

זה ניסיון לעשות איזה שהיא שפה משותפת ויעדים לפחות לאומיים, ואחר כך עוד צריכים לתרגם את זה לתכניות ספציפיות, כדי שהדבר שאתה מצביע עליו לא יהיה, כי הדבר שאתה מצביע עליו גם הוא מופיע לנו באותו ספר משלי.

בסייבר אנחנו מצד אחד נמצאים מאוד מאוד רחוק, כפי שאתה אמרת, שהיה פעם בסייבר והיום הסייבר, ואנחנו היום לפני שתי ישיבות דנים בהתקפות כופר בשלטון המקומי, שאין הגנות והמערכות לא בנויות לזה. זה עדיין רחוק, יש פערים.

יאיר פרנק, ראש רשות התקשוב הממשלתי. בבקשה, יאיר.

תודה. מה שחבריי הפרופסורים המכובדים דיברו על כרגע, אני גם יצא לי ללמוד אצל פרופ' בן בסט פעם אחת, מה שהם אמרו כרגע, הם דיברו על תפיסות וסוגיות מערכתיות, זאת אומרת בין ההקשרים הטכנולוגיים לבין סוגיות מערכתיות ואני לצערי או לשמחתי לא עוסק בסוגיות המערכתיות האלה כיום, אולי אעסוק בעתיד, אבל כרגע אנחנו לא עוסקים בזה, אבל אנחנו כן עוסקים כל הזמן בנגזרות של מה הטכנולוגיה, ככל שהיא מתקדמת, איזה אתגרים היא מעמידה מולנו ומה אנחנו יכולים לעשות איתם. בהקשר הזה אני מצטרף למה שאמר פרופ' שעשוע, הסיפור של ההזדמנויות הוא כנראה אין סופי.

כשממשלה מדברת על זה שהיא רוצה לקחת את מאגרי המידע שלה ולחשוף אותם לציבור ולמצות מהם דאטה יותר טוב או למצות מהם יכולת לקבלת החלטה יותר טובה, או למצות מהם כל דבר שרק אפשר, אז ברור שדאטה כזה הוא דאטה שיכול להוות זרז לחוקרים גם בתחומים התיאורטיים וגם בתחומים המעשיים כדי לדעת לבנות את המערכות או את התפיסות יותר טוב. כשהממשלה, ודנת בזה פה לפני שבועיים, נדמה לי, מדברת על בריאות לאומית כמנוע צמיחה ומדברת על הקמה של חדרי מחקר סביב עולם הדאטה הזה ולהגיע למצב של רפואה מותאמת אישית וכן הלאה, אז כל הדברים האלה קורים.

אנחנו מנסים היום לחשוב, לקחת רגע אחד את הדברים האלה מהאיגרא רמה המאוד מאוד גבוהה הזאת ולנסות רגע אחד להוריד אותם למטה, עשר קומות, לא יודע, להוריד אותם למטה ולראות מה אפשר לעשות מדברים קיימים מחר בבוקר בשירות הממשלתי. בתחום שאני עוסק, שזה תחום של שירות לציבור, אנחנו לא חרתנו על דגלנו להוביל טכנולוגית, כן חרתנו על דגלנו להוביל בשירות. אז אם אנחנו מסוגלים לקחת טכנולוגיה קיימת סביב עולם של בינה מלאכותית או סביב עולם של Machine Learning או כל הטכנולוגיות המתקדמות האלה ולעשות מהם שירות יותר טוב, אז בוודאי שאנחנו נרצה לעשות את זה ואנחנו מדברים על זה היום.

סתם ניקח דוגמה, אין סיבה בעולם שממשלת ישראל לא תוכל לתת שירות לאזרח שהוא מופעל על ידי תפיסת עולם כמו עוזר רישי, כמו סירי, או כמו קורטנה.

אנחנו חושבים אפילו קצת יותר קדימה, אנחנו חושבים, וזה נמצא במסמך של רועי, אני חושב, שתהליך קבלת ההחלטות, היום הבירוקרטיה, שאצלנו היא מאוד כבדה ומובנית, שהבינה המלאכותית תקבל את זה ואנחנו נשחרר שם. יכול להיות שנתקדם בעניין הזה, גם בסמכות, אבל בתהליך קבלת ההחלטות זה יכול להגיע - - -

אנחנו אולי מדברים במערכות תומכות החלטה.

תומכות, בסדר, תמיד צריך שילוב, אבל אנחנו מדברים שידלגו על כל מיני שלבים ויכולים להביא רק את החלק האחרון, אני לא מדבר על ניתוק, אני אומר אם אנחנו, נניח אם נחתוך, ננפה את הבירוקרטיה, תגיע לתהליך קבלת החלטות, מי שמקבל את זה, ואז אנחנו נוכל - - -

משפט אחד לנסות ללמוד מהעבר. סיפרתי קודם שמפא"ת אמרו 'אנחנו רוצים - - -', מה שמפא"ת עשו בעצם, הם פנו לחילות השונים בצה"ל ואמרו 'אנחנו יוזמים את קידום נושא בינה מלאכותית, כל מי שיש לו פרויקט, שיבוא, אנחנו מוכנים לדאוג לזה כלכלית', זה היה מבחינת מפא"ת והאמת היא שכתוצאה מזה באמת הגיעו פרויקטים מרתקים, מחיל אוויר, מהמפח"ש, כמובן מההיסעים.

אז כנראה קלענו לדעת גדולים כי יש לנו כוונה ואנחנו מטפלים בזה כרגע, להקים בתוך הממשלה מעבדת חדשנות, אותה מעבדת חדשנות תהיה מסוגלת, אנחנו יודעים עוד פעם, בירוקרטיות ממשלתיות זה לא דבר פשוט, אז אנחנו מנסים כרגע לפתור את הדבר הזה, ואותה מעבדת חדשנות תהפוך לסוג חדר פתרונות וחדר הדגמות של טכנולוגיות לתוך צרכים ממשלתיים. את זה נרצה כמובן לעשות בשיתוף כזה או אחר עם עולם הסטארט אפים ועם עולם האקדמיה. אבל אם קודם נתתי את הדוגמה של סירי, אז אנחנו כרגע לא מסוגלים לפתור את הבעיה של עוזר אישי בשפה העברית, כי אין מערכות תומכות שמנתחות את השפה הטבעית העברית. אז אם אני מסוגל להגיד שיש פה קול קורא לסטארט אפים ישראלים שיקימו את זה ואני מבטיח להם שאנחנו נשתמש בתוצרת שלהם, אז אני אומר גם את זה.

ולגבי מה שאמרת קודם, אדוני היושב ראש, לגבי הבירוקרטיות ותהליכים, אני מעדיף להילחם בבירוקרטיה ולהוריד אותה מאשר לפתח מערכת שתדע לעקוף אותה או תדע להתמודד איתה.

תדע לעזור לה, תדע ל - - - כן, המערכות האלה יכולות - - -

נכון, אבל בעיקר בעיקר אנחנו רוצים להגיע למצב שגם תהליכי קבלת החלטות בממשלה, ושוב, זה לא הטכנולוגיה שאנחנו מדברים עליה, אלה טכנולוגיות של פעם, שאנחנו לצערי הרב לא עושים בהן שימוש, אבל שגם תהליכי קבלת ההחלטות יהיו מבוססים מידע וידע ולא מבוססים שליפה. דרך אגב, קראתי מחקר שעשתה, ברח לי השם כרגע, בקרב למעלה מ-1,000 מנכ"לים של חברות גדולות ו-67% מהם ענו שהם מקבלים החלטות לפי אינטואיציה ולא לפי נתונים, אבל זה ככה בשביל בדיחות הדעת. אנחנו לא נעצרים כמובן ברמה כזאת.

בקיצור ולעניין, מה שאני מנסה להגיד, יש לנו כרגע תהליכים של חשיבה, של הסדרה, אין לנו כרגע תהליך שמסתכל על כל המערכת מלמעלה ואני שמח לשמוע את מה שאמר כרגע פרופ' איציק בן ישראל על תפיסת עולם כזאת ואנחנו כמובן נשמח להשתלב במין תפיסת עולם כזאת, איך להביא את זה ליום יום של האזרחים.

הערה קצרה ואחר כך אני ארצה לעבור לד"ר ניל נימר.

הערה קצרה. כשארגון גדול מסתכל על המרחב האין סופי הזה של הזדמנויות בבינה מלאכותית הארגון הזה שואל את עצמו היכן אני יכול להוביל, אתה לא יכול להוביל בכול, אתה צריך לבחור מספר כיוונים ובהם להחליט 'אני מוביל'. בישראל, לדעתי, כל הנושא של הרפואה הדיגיטלית זה מקום שישראל יכולה להוביל, בהנגשת מאגרי מידע ותמיכה פיננסית, קרנות יוזמה כאלה ש - - - זה תחום שישראל יכולה להוביל. אפשר לחשוב על עוד תחומים, אבל צריך להחליט מה התחומים, אחרת זה - - -

יש לא מעט דיונים שאנחנו מקיימים כאן בוועדה, אנחנו ננסה, הוועדה שדנה במחקרים בבני אדם וועדות הלסינקי, אנחנו מקבלים את הדוח ואנחנו גם נפגשים עם חברות פארמה ישראליות והם באים, יש כאן גם תחום, לאו דווקא הממשלה, יש כאן גם יזמי חוץ ובאים לישראל, רוצים לבצע את המחקרים פה, מחקרים יישומיים גם כן ויש הרבה דברים שמונעים מהם, בירוקרטיה או לא בירוקרטיה, שמונעים מהם. במדינות אחרות הם מקבלים יחס והאפשרויות הן הרבה יותר מתקדמות ומתאימות להן והן מעדיפות את ישראל, בגלל הידע שיש לנו, יכול להיות בגלל שהרפואה היא הטרוגנית, המחקר טוב, הרמה הרפואית פה טובה, היכולת - - - הם אומרים שהם היום עושים במיליארדים, הם מתחייבים שבשיפור התהליכים הם משלשים את הסכום, שלושה מיליארד מיד, הם מתחייבים על זה שהם מביאים כאן למדינת ישראל ויש כאן תהליכים שמונעים מהם. זה נכון שאנחנו צריכים לקחת את מה שאנחנו יכולים, אבל הנה דבר שיכולים, במקום זה אנחנו צריכים לא מעט דרכים לנסות כדי לפתור את זה.

הופיע כאן בוועדה, היה בתחום הרחפנים, אבל תוכנות שאותו מפתח, שני צעירים, אחד יושב בארצות הברית ואחד יושב בישראל, אחרי שיש לו פיתוח שהוא פיתח לעצמו, הוא מקבל את האישורים ממערכות הביטחון בישראל, נניח זה היה במקרה הזה בתחום הרחפנות, והוא מחכה כמה חודשים.

באיזה תחום?

הרחפנות, רחפנים. תוכנות על רחפנים. בגלל שהוא צריך לקבל אישורים שבארצות הברית אין, הוא פיתח, אותו חבר שלו פיתח באותו זמן ומיד הוא שיווק את זה. כאן הוא היה צריך לעבור לא מעט דברים ואנחנו רוצים לשפר את זה.

בארצות הברית, אם זה מוצר ביטחוני - - -

זה לא מוצר ביטחוני.

אם זה לא מוצר ביטחוני גם בישראל לא צריך אישור.

אבל בישראל צריך להגדיר אם זה מוצר ביטחוני או לא. כדי לקבל את האישור על זה, יש לזה קונוטציה מסוימת.

כנראה שהוא חשב שזה ביטחוני. בישראל ובארצות הברית זה אותו דבר, אם זה מוצר ביטחוני צריך לקבל אישור ואם זה לא מוצר ביטחוני לא צריך לקבל אישור.

אני לא רוצה להגיד כמה זמן משך האישור, אבל גם בלי זה, גם עצם האישור עצמו, הוא אומר שהוא מפתח מוצר, אותו מוצר שהוא פיתח, כאן הוא היה צריך לעבור רישיון שם הוא לא היה צריך לעבור. אלה עובדות שבאו לכאן, שאנחנו מנסים גם באמת לשפר את זה.

אנחנו אמנם בוכים על זה, אבל קח את תחום הלוויינות, לישראל היה בזה יתרון, אבל בשלב מסוים היא החליטה שהיא מוותרת על זה. כבר היה לה יתרון גדול, מכיוון שהיום מבחינה כלכלית החליטו שצריך לשים את הדגשים במקומות אחרים, על אף שלא מדובר בסכומים גדולים. היום בתחום הלוויינות, ננו לוויינות, אנחנו מאבדים את היתרון שלנו או את הראשוניות שלנו בעניין הזה והיום כל המדינות האחרות שהן מתחרות בהזמנות, בגלל שהממשלה מתערבת בזה, כאן הממשלה לא רצתה להתערב ואנחנו בעניין הזה מנסים ל - - - יכול להיות שלא רק שנאבד את זה, נניח תקשורת ודברים כאלה, נהיה תחת מדינות אחרות שהיום זה בסדר, אף אחד לא יודע שבמצב חירום זה גם ימשיך להיות בסדר. זה המצב שאנחנו מתמודדים, אנחנו יודעים עליו, הוא בעייתי, אבל עם כל זה אנחנו מבינים שבאיזה שהוא מקום אי אפשר לתפוס את הכול, על אף שבנושא הזה אנחנו חושבים שכן היה צריך להמשיך איתו, ההשקעה היא כבר לא גדולה אחרי שיש לך את הידע.

באמת אחת השאלות שנשאלנו, אני חושב שאתה כתבת את זה, האם יש צורך לעודד השקעות ייעודיות או מחקר בסיסי, מחקר ופיתוח בתחום הבינה המלאכותית. האם כוח אדם בתחומים האלה מספק מבחינת היקפו? זו אחת השאלות שהעלה רועי. אני חושב שדווקא בעניין הזה, ד"ר ניל נמיר, מהמועצה הלאומית למחקר ופיתוח אזרחי, הצליח ל - - -

שלום. אנחנו במו"פ, בגלל ההצטלבות של הזמינות של האלגוריתמים וכוח המחשוב והדאטה מזהים הזדמנות להשתלב בתעשיות שעד כה לא השתלבנו, במיוחד כשהכישורים שנדרשים לפתח את המערכות האלה בדיוק קולעים ליכולות הדנ"א הישראלי. אנחנו פעלנו, אבל בטווח הקצר כנראה יהיה זעזוע משמעותי בשוק התעסוקה. לגבי הטווח הארוך יש דיון סוער אם זה יספק יותר מקומות עבודה או שוק העבודה יצטמצם, אבל בטוח שבטווח הקצר יהיה זעזוע. נהגי מוניות לא יוכלו להשתלב בסיעוד בחייהם, שוטרי תנועה לא יהיו לוחמי סייבר ונצטרך להיערך לזה.

דרך אגב, מי שמעניין אותו, היום בבוקר היה מאמר מאוד מסכם בגלובס, על ידי עמרי זרחוביץ שמטפל ודן בכל הנושא של שוק העבודה. במולמו"פ אנחנו פועלים במספר מישורים בתחום, בגלל הקרבה שלנו למשרד המדע אנחנו פעלנו להעלות את המודעות. פרופ' בליי הודיע בשבוע שעבר בכנס של המדענים הראשיים שבמשרד המדע 2019 תהיה שנת בינה מלאכותית. אני שמח שכבר בפועל הקול קורא האחרון למחקרים בינה מלאכותית זה בראש סדר הדברים וכן מסלולים ישירים לדוקטורט על שם ז'בוטינסקי ועל שם אלוני, כדי לשמר את המצטיינים בתוך האקדמיה, כי משם, כדוגמת מובילאיי, תבוא הישועה, אז זה יצא לפועל והקולות הקוראים הללו הם עכשיו פתוחים.

בבריטניה אני חושב שראיתי שממשלת בריטניה מקצה מימון למחקר ל-500 חוקרים בתחום הבינה המלאכותית, כל היעד שלהם יהיה בינה מלאכותית, מתקציב של ממשלת בריטניה.

באותו דוח גם, זה הדוח של בית הלורדים, הודיעו שמקימים מטה לאומי לבינה מלאכותית במינון של 2.5 מיליארד שטרלינג. הדבר השני, בעצת פרופ' בן ישראל, המולמו"פ עם צוות מצומצם המליץ עשר המלצות לשר המדע איך לקדם בינה מלאכותית. והדבר האחרון שאנחנו פועלים, אנחנו מממנים סקר נרחב של ההזדמנויות והחסמים בכל השוק הלאומי בבינה מלאכותית, עושים מיפוי של התעשייה, עושים מיפוי של האקדמיה ובעוד מספר חודשים, לקראת סוף השנה, ייצאו המלצות לגבי חינוך, לגבי כל הערוצים ואני מקווה שבאינפורמציה ובעבודה מקיפה נוכל לתמוך בוועדה של פרופ' בן ישראל.

התחלה טובה. יש לנו עוד שני דוברים קצרים. ד"ר קרין נהון וד"ר תהילה אלטשולר.

את הפרופסורה קיבלתי ב-2010, אבל זה בסדר. תודה רבה, כבוד היושב ראש. אני חושבת שזה חשוב מאוד שיש ישיבה ראשונה בנושא הזה ובתחום הזה, זה באמת חשוב. רק לתת לכם כמה דרכים, כי אתם מכירים אותי בכובעים שונים בחדר הזה, אבל אני חושבת שהכובע שיהיה הכי רלוונטי לנושא הזה זה הכובע שאני ניהלתי באוניברסיטת וושינגטון כ-12 שנה מעבדה שמתעסקת בתחום לא של בינה מלאכותית ישירות, אבל בסוף ימיה של המעבדה כבר עברנו לנושא של מערכות אוטומטית וסמי אוטומטיות אינטליגנטיות, כבר התחלנו להתעסק עם זה.

אבל אני גם מגיעה מההיבט של הצד, נקרא לזה של המדיניות של הניהול של הדברים ולא רק בצד של איך לתכנת ואיך לפתח ואני מסכימה כמובן שבמדינת ישראל יש לזה מקום מאוד חשוב לפיתוח ולדחיפת החדשנות, אבל עם זאת אנחנו נמצאים בתקופה מאוד מעניינת, כי התקופה הזאת היא התקופה שאנחנו יכולים לנסות ולהסדיר דברים מסוימים, שלא יגיעו למקומות שאחר כך יהיה לנו קשה לתקן אותם.

בדרך כלל כששואלים אותי, שאלת את השאלה הכי חשובה, מה אני בתור מדינה צריך להסדיר ואני באמת חושבת שבמערכות פרטיות של התעשייה אני לא הייתי רוצה לראות הסדרה, אלא אם יש כשל שוק וכמובן אני גם לא נאיבית, אני יודעת שאנחנו נגיע לכשל השוק הזה מתי שהוא, אבל כל עוד אנחנו יכולים לדחוף כמה שיותר הייתי רוצה לחכות, אבל יש כן שני מקומות שיש לנו מקום מאוד חשוב ליצור שולחן עגול אינטרדיסציפלינרי, שהוא לא רק של אנשי פיתוח, אלא גם אנשים שמגיעים ממשפטים, מפסיכולוגיה, מסוציולוגיה, ממדעי המדינה וזה המקרים של מערכות AI שהן או ציבוריות, דהיינו מערכות שמפותחות על ידי הממשלה לכל זרועותיה למיניהן, או מערכות שיש להן השלכה ציבורית נרחבת. גילוי נאות, הייתי בוועדה שדנה בנושא של אתיקה של המערכות הבריאותיות, היה לזה דיון מאוד רחב, זה המשיך בסיפור הזה. מכיוון שאנחנו כבר נמצאים במצב שבו יש מערכות שההטיות הן לא רק בהטיות של מידע, אתה הזכרת את הטיות האינפוט, אבל זה לא רק הטיות אינפוט ההטיות כבר נמצאות גם ברמה של הניתוח וגם הטיות ברמה של האאוט פוט שאחר כך אתה משנה אותן והן לא רק במצב ש - - - אנחנו מדברים על מערכות שלומדות, אנחנו נמצאים במצב שהמערכות כבר משנות החלטות פוליטיות וגם משנות החלטות חברתיות.

ואני רוצה לתת כמה דוגמאות. אני מדברת על שלושה סוגי הטיות. הטיה ראשונה זה הטיית ייצוגיות וכולנו זוכרים את הסיפור של הבחירות בארצות הברית, אז אני אתן דוגמה אחת משם לגבי הטיית בחירות. דונלד טראמפ, שהוא נשיא ארצות הברית, השתמש באופן מאוד כבד בתקופת הבחירות בשימוש בבוטים במכונה לומדת. בשימוש בבוטים בשתי קהילות שהוא היה מאוד חלש בהן, בהיספנים ושחורים, וזה יצר לו בעצם מניפולציה, או תעדוף בקרב קהילות ששם הוא היה חלש יותר. שאלה, איפה הקווים האדומים. עוד פעם, אני לא מדברת על ההיבטים הפרטיים, אני מדברת על דברים שיש להם משמעויות.

הטיות גם בנושא הקלסיפיקציה והסיווגיות. יש למשל מערכת בשם קומפס בארצות הברית שפועלת בשמונה מדינות. המדינה, המשטרה, כשהיא מגיעה לעצור מישהו ומגיעה לשופט היא מביאה עם המערכת בעצם דוח לשופט בין 1 ל-10 כמה רמת המסוכנות. בדקו 30,000 החלטות של המערכת הזאת, היא פועלת בשמונה מדינות וגילו משהו מאוד מעניין. היא לוקחת בערך 25,000 אינדיקטורים, זה משהו באמת עצום ולומדת וגילו משהו מאוד מעניין, כשמשווים את כל ההחלטות של המערכת, וכמובן השופטים הולכים לפי המערכת הזאת, שיש לה רק אפליה אחת, לגבי שחור או לבן. כלומר אם אתה שחור רמת המסוכנות שלך אוטומטית גבוהה לעומת אותו לבן שיש לו את אותם אינדיקטורים, 25,000 אינדיקטורים.

ממשיכים להשתמש בזה?

ממשיכים להשתמש בזה, כן. לכן אני נותנת את הדוגמאות האלה, כי אנחנו נגיע לדוגמאות האלה ואי אפשר להגיד שאנחנו לא משתמשים בהם, אנחנו נמצאים כבר שם, זה לא מדע בדיוני, זה לא רק גו ו-chess, אנחנו מדברים כבר על דברים שמשמשים כרגע בפוליטיקה האמריקאית, היא גם תגיע אלינו.

ודבר אחרון, אני רוצה לדבר על הטיה של הקצאת משאבים. זה גם אנחנו רואים בארצות הברית מאוד יפה. לפני חודש נכנסה מערכת מאוד חדשנית, יאיר, שווה לך לבדוק אותה, בביטוח הלאומי, שמחליטה על הקצאות לביטוח לאומי במדינות בארצות הברית. המערכת הזאת ביום אחד בהיר, ממש ביום בהיר אחד, שלחה מכתבים לאזרחים ברחבי ארצות הברית שאומרת להם 'אתם עד עכשיו הייתם זכאים לאיקס כסף, קיבלתם 3,000 דולר, עכשיו אתם זכאים לאפס כסף', למה? כי המערכת אמרה את זה. המערכת גם משתמשת בבינה מלאכותית על מנת להבין את הדברים האלה ומה שזה יצר, וזה אוכלוסיות חלשות, אתם יכולים להבין במי מדובר במערכות האלה, האוכלוסיות החלשות האלה הגיעו להתלונן על המערכת, 'איך זה יכול להיות שאני כל החיים מקבל 3,000 דולר ופתאום אני מקבל אפס', ואז אמרו להם 'אין בעיה, רק אנחנו לא יודעים, המערכת היא מאוד עמומה, אפילו אלה שתכנתו אותה כשתכנתו אותה, היא כבר למדה כל כך הרבה, אנחנו כבר לא יודעים להסביר לכם למה אתם אפס ולמה אתם לא 3,000'.

אז יש דברים שאנחנו מסוגלים לעשות בעזרת הסדרה, לגרום לשקיפות ברמת מסוימות של למידה, של האינפוט, הוא הזכיר פה, של איך לומדים את הקלסיפיקציות ויוצרים בהתחלה לתת למערכת ללמוד ויש גם לנסות ליצור פחות עמימות, אבל עוד פעם, אני חושבת שהמקום שלנו פה זה ליצור הסדרה בדיוק למערכות שהמדינה מטפלת בהן. נגיע לסיפור של התעשייה, התעשייה תגיע לכם, אבל אני מסכימה לבטח שיש לנו יתרון.

יש לנו דרך ארוכה.

לגמרי.

אוקיי, זה שאת לא תיקנת, מרוב צניעותך, אני אמרתי ד"ר, פרופ' קרין נהון, אז נתקן את זה, בוודאי לפרוטוקול באופן כללי.

חוגגת שמונה שנים, אגב.

חבר הכנסת עמר בר-לב, אתה גם מוזמן לשבת פה, לא ככה בסוף, אבל אתה משתלב טוב עם הציבור.

אני הבנתי שביקשו ממני עוד התייחסות של גוגל ועוד מאוניברסיטת תל אביב, אבל אני חייב ללכת, דקה אחת אני אעשה לכם הפסקה ואחר כך אני אבקש מד"ר תהילה אלטשולר.


(הישיבה נפסקה בשעה 13:34 ונתחדשה בשעה 13:35.)

ד"ר תהילה אלטשולר, בבקשה.

תודה רבה. אני רוצה להודות כמובן לפרופ' שעשוע על הדברים הנכוחים שללא ספק שימחו את ההורים שלי. אף אחד לא מבין חוץ מכם במה מדובר. פרופ' שי שלו שוורץ זה אחי.

בתור מי שמסיימת לכתוב עכשיו מחקר מדיניות רחב היקף על הנושא של בינה מלאכותית והאתגרים שלה למדיניות, אני באה מהעולם של מדיניות ושל משפט והיחס שלו לטכנולוגיה ולתקשורת, אני רוצה להעיר פה כמה הערות כלליות שאני חושבת שיכולות להיות מועילות לדיון. ראשית, נאמר פה נכון שמהפכת הבינה המלאכותית היא לא דבר חדש, אבל היא מתרחשת באופן היסטורי בערך 20 שנה אחרי מהפכה גדולה מאוד מאוד, שזאת מהפכת הקישוריות, מהפכת האינטרנט. אנחנו יודעים היום להסתכל על היתרונות והחסרונות של המהפכה הזאת, על דברים שידענו לשים עליהם את האצבע בזמן אמת ברמת מדיניות ופעלנו כדי לטפל בהם ועל אלה שלא ידענו, ולכן אנחנו צריכים עכשיו להתמודד עם הנזקים שלהם.

אני חושבת שאחד הדברים שאפשר ללמוד מהחוסרים הוא באמת היעדר השיח האינטרדיסציפלינרי הן בתוך האקדמיה והן בין האקדמיה לבין מקבלי ההחלטות וזה דבר שצריך עכשיו בעת הזאת כבר לטפל בו. הדבר הנוסף שאנחנו מרגישים בצורה מאוד חזקה הוא הבורות הדיגיטלית של מקבלי ההחלטות, חוסר הידע שלהם שמוביל הרבה פעמים דווקא בהקשרים האלה לסכיזופרניה. הוא מוביל לסכיזופרניה כי מצד אחד יש איזה שהוא סוג של אופוריה של חיינו מעתה ועד עולם יהיו כאלה שאפשר יהיה לפתור בהם את הבעיות שלא יכולנו לפתור עד היום ומן הצד השני המכונות יקומו עלינו לכלותנו. זה או זה או זה והאמת היא איפה שהיא באמצע, כמו שהיא בהרבה הקשרים אחרים של החיים.

אני חושבת שהשאלה שמקבלי ההחלטות צריכים לשאול את עצמם היום היא מה שונה בשדה המדיניות בין אינטרנט לבין בינה מלאכותית, האם זה היכולת לגרום נזק פיזי, האם זה ביצוע המשימות בדרך שהיא לא תמיד צפויה מראש? האם זה ערפול הגבול של בין אדם לבין מכשיר, שפרופ' שעשוע דיבר עליו עכשיו ומתוך זה בעצם לייצר הפשטה של הסוגיות שצריך לטפל בהן, כי הסוגיות האלה הן סוגיות רוחב, הן לא עוסקות רק ברכב אוטונומי ולא רק בבריאות דיגיטלית. דבר נוסף שיכול לשרת אותנו בהקשר הזה הוא באמת לדבר על היבטי מדיניות רחבים כמו תעסוקה, כמו תחבורה, לא פחות מזה, אגב, כמו משטר, האם בעולם שבו אין פרטיות ומכונות מקבלות עבורנו החלטה המשטר שאנחנו חיים בו ייראה באותה דרך כמו שאנחנו מכירים ב-150, 200 השנים האחרונות? האם העובדה שמקבלי ההחלטות רטוריקנים, שעד היום היו צריכים להתנהל באיזה שהוא סוג של תנאי חוסר ודאות עדיין יהיו אלה שיהיה שווה לבחור בהם? או שאולי נצטרך לחפש את הגיקים שיודעים פשוט לפתח את המערכות הנכונות. כל אלה הן שאלות שצריך לדון בהן בהקשר של הייבטי מדיניות רחבים.

ההיבט הבא הוא היבט של רגולציה ופיתוח, מפני שהתעשייה שם וצריך לשאול את עצמנו מי יודע לפקח עליה, מהן בכלל סוגיות המדיניות, האם זה רק תחרות, איכות של מוצרים, איך עושים AI by design , כמו שעושים privacy by design, אלה שאלות שצריך לשאול ואולי צריך בעצם שהמדינה תפתח את המכונות שיידעו לפקח על המכונות. זה גם לא דבר בלתי סביר.

הדבר השלישי שצריך לדבר עליו הוא מערכות לומדות בשירות המדינה. אני חושבת שבהקשר הזה צריך לומר ביושר שהרבה מאוד היום נעשה מתחת לרדאר וזה מאוד בעייתי. מערכת הביטחון פועלת בדרך הזאת, המשטרה שעוברת לשיטור גבוה ושיטור חכם, בלי תמיד הסמכה חוקית, או שאלות מדיניות ביחס למערכות שמתפתחות. התכנית של בריאות דיגיטלית שלא עברה את הכנסת ונמצאת רק בממשלה, ופה בעיניי אתם, חברי הכנסת, צריכים לתבוע את הדיון הציבורי ואת השליטה שלכם כנציגי הציבור בהקשרים האלה. אני חייבת לומר שמטריד אותי, פרופ' בן ישראל לא נמצא כאן כבר, אבל מטריד אותי מאוד שאנשי הסייבר הם אלה שהולכים לטפל בעולמות של בינה מלאכותית. לא בהכרח לבינה מלאכותית חייבת להיות הארומה הביטחונית שמאפיינת את הדיון בענייני סייבר במדינת ישראל. יש פה הרבה מאוד היבטים אזרחיים וגם היבטים של זכויות אדם, אני לא בטוחה שזה - - - יש מספיק שונויות בשביל שיצדיקו באמת חשיבה אולי טיפה יותר רעננה בהקשרים האלה.

דווקא הפוך, גם אם נניח שבעולם הסייבר היה אפשר לקחת להשיק מהתחום הביטחוני בהרבה דברים, בנושא של בינה מלאכותית אני לא בטוח. גם אם יש היתרים בנושא הביטחוני, דווקא בינה מלאכותית זה מצע אחר לגמרי.

אני איתך לגמרי ולכן אני חושבת שבכלל לא בטוח שהאנשים שידעו לעשות את זה בעבר הם - - -

לא האנשים, אני אומר על התפיסה.

התפיסות האלה הן התפיסות ההכרחיות. הדבר הרביעי הוא ההיבט המוסדי, וזה נאמר קודם, אני באמת אגיד את זה בחצי משפט, נדרשת כאן חשיבה חוצת ממשלה היום. אני כמי שפועלת בשדות של הפרטיות יודעת שאין למשל מדיניות פרטיות חוצת ממשלה במדינת ישראל, זה מאוד מאוד נדרש גם בהקשרים האלה שהם הקשרים שבאמת יש בהם שאלות חוצות ממשלה.

אני רוצה לחלוק, ברשותך, על פרופ' שעשוע, על העניין של הזכות לפרטיות. אני חושבת שהזכות לפרטיות - - -

אתה נמצא פה, אחרים הולכים.

לא, אבל אני אגיע גם לתמיכה המקווה. הזכות לפרטיות, לא רק שיש לה עדיין חשיבות, היא מלכת זכויות האדם של העולם הדיגיטלי. אם אנחנו נוותר עליה, לפחות במשמעויות של יצירת מלכודות אוטונומיה ויכולת בעצם להחליף את שיקול הדעת שלנו בשיקול דעת אחר בלי שאנחנו מודעים לזה, ללא שקיפות בהקשר הזה - - -

היא המלכה, היא לא המלכה עם הכתר.

היא מלכת זכויות האדם במובן הזה שהיא הופכת להיות תנאי מוקדם למימושו של ההליך הדמוקרטי התקין ובלי דמוקרטיה אין הגנה על זכויות האדם האחרות, ולו רק בגלל זה. כמובן שצריך להסתכל בחשדנות הראויה על הרגולציה האירופית וכמובן שמדינת ישראל חייבת ל - - -

זכויות אדם את מתכוונת גם פרטיות.

כן, בוודאי.

זה הדבר שהכי נפגע.

כן.

אני לא חושב שיש עוד משהו שיותר פגע בפרטיות יותר מהמהפך הדיגיטלי.

לא, מה שאני מנסה לומר הוא שהפרטיות באמת מקבלת נופך אחר בעולם הדיגיטלי, צריך להסתכל על המשמעויות החשובות שיש לה, צריך להסתכל עליה בהיבטים רגשיים ונפשיים ולא רק בהיבטים של שליטה של אדם במידע, אבל זה כבר עניין לוויכוח אחר ולהרצאה אחרת.

אני כן רוצה לדבר לשנייה אחת על הסיפור של אתגר השקיפות של המערכות הלומדות. האתגר הזה של השקיפות של המערכות הלומדות יכול להיות בשאלה של התרת הפקעת בין אדם ומכונה. כשגוגל דופלקס מנהלת שיחות ומי שנמצא מהצד השני של הקו לא יודע שזו מכונה אפשר לשאול את השאלה אם זה נכון או לא נכון, איזה רמה של שקיפות אנחנו צריכים, אבל יותר מזה סוגיית הקופסאות השחורות. המערכות הלומדות, אני חושבת, הדבר המשמעותי ביותר שיש בהם הוא באמת חוסר היכולת לצפות או להסתכל אחורה ולדעת כיצד הן מתוכננות.

ופה אני כן רוצה להזכיר דבר שפרופ' שעשוע דיבר עליו ואני קוראת לוועדה להמשיך ולדון דווקא בו, המידול הזה שיצרו שלו שוורץ ושעשוע, המודל הזה שנקרא RSS, שמפרמל את המושג של אשמה בתאונה, בעצם יוצר פה מצב שבו לראשונה מנסים להפוך קופסה שחורה לקופסה אפורה. לא הייתי קוראת לה קופסה לבנה, אבל לקופסה אפורה. למובילאיי יש עכשיו עניין בדבר הזה, מובילאיי רוצה לייצר אמון ציבורי במערכות שלה, נכון? אחרת לא יאמצו את הרכב האוטונומי. יש כאן צירוף אינטרסים מאוד מאוד מעניין בין היכולת של המדינה לדרוש מחברות שמפתחות בדיוק את המעבר הזה מקופסאות שחורות לקופסאות אפורות לבין האינטרס המסחרי של החברות וזה שיהיה בהן אמון.

אבל הם יוזמים? נניח הם יכולים להגיד 'אנחנו נותנים את המוצר - - -

זה עניין רגולטורי, אדוני היושב ראש.

- - 'יש לזה השלכות, למה אנחנו צריכים - - -', או שהם בכלל, נניח מה שדיברנו קודם, יכול להיות שבאמת מובילאיי יכולה לעצור את הפיתוח שלה אם היא צריכה להחליט בין בן אדם לבעל חי, אם המוצר מחליט או לא, או סוג של בני אדם, או שניים או אחד - - -

לא, השאלה היא עד כמה אתה ואני - - - לא אתה ואני, אבל עד כמה נוכל לדעת מה ההחלטות, זאת בעצם השאלה. לא איך היא מחליטה ומה השורה התחתונה של ההחלטות, אלא על דרך קבלת ההחלטה. אני חושבת שאם יש משהו שהיום יושב על השולחן בעולמות של בינה מלאכותית כעניין חוצה תעשייה זה בדיוק הסיפור הזה כי אנחנו יכולים למצוא את עצמנו בעוד עשור עם הרבה מאוד מערכות שפותחו כמערכות של קופסה שחורה שלא נוכל להתמודד אחורה עם ההשלכות שלהן.

לכן דווקא הדוגמה הזאת היא דוגמה לאפשרות של תביעה רגולטורית מצד חברה מסחרית, שיהיה לה עניין להיענות לתביעה הזאת והיא תוכל לשמש סוג של דוגמה באמת אחר כך איך לומדים מזה ביחס למהפכות אחרות. תודה רבה.

תודה רבה. שורת הדוברים הסתיימה ויש לנו ממש כמה דקות, אז אם יוכלו כמה דוברים בדקה, דקה וחצי, אני אוכל לאפשר את זה. שמעון שמואלי, מנהל מדיניות ציבורית של גוגל, נמצא פה?

כן, נמצא פה. תודה על רשות הדיבור ותודה על הכינוס היום. זה לא פשוט לדבר אחרי כל כך הרבה פרופסורים וראש רשות החדשנות, אני אנסה. גוגל שמה את נושא ה-AI בשנים האחרונות בראש סדר העדיפויות שלה כחברה, הטכנולוגיה משולבת - - - וזה שאנחנו מדברים על טכנולוגיות עתידיות, אבל כמעט כל המוצרים שמשתמשים, מחיפוש ועד תרגום, יש בהם איזה שהוא מרכיב של בינה מלאכותית.
חשוב לדעת, ולא הרבה יודעים, שבתוך מרכז הפיתוח שלנו, המחקר והפיתוח בישראל בראשותו של פרופ' יוסי מטיאס, יש צוות שעוסק בתחום ה-AI ומפתחים מספר פיתוחים שונים וזה חשוב לדעת שיש את הידע ואת היכולת הזאת בישראל. למה אני אומר את זה? כי אנחנו חושבים שחוץ מהתועלות הישירות מהטכנולוגיות שיכולות לצמוח יש שני דברים שכדאי להשקיע בהם מחשבה וזה כמובן הערך הכלכלי שיכול לצמוח למדינת ישראל מהובלה בתחום הזה, יש מחקר של בנק - - - שמצביע על גדילה של השוק ל-150 מיליארד דולר עד 2020, והערך שזה יכול לתת לממשלה, פה נכנסת הרשות לתקשוב מבחינת שירותים לציבור וכיו"ב. בהונג קונג פיתחו איזה שהיא שיטה טכנולוגית באמצעות AI שהם מקבלים בקשה לדרכון, הבקשות מתמיינות ובכך הם חוסכים המון זמן ונותנים תשובות לציבור יותר מהר.

חמישה דברים שאנחנו זיהינו והדברים כבר נאמרו פה, אז אני אומר אותם ממש בקצרה, ממש בדקה, שממשלות יכולות לעשות מאמץ בהם, הראשון זה כמובן הכשרת כוח אדם. אנחנו בגוגל מציעים בכלל לציבור קורס הכשרה בחינם און ליין, חוץ מזה אנחנו גם עושים קורסים של שלושה חודשים, של crash courses שהופכים מהנדסים, עוזרים למהנדסים להיכנס לתחום של AI. הדבר השני זה מחקר, בקנדה למשל הממשלה השקיעה 100 מיליון דולר למחקר בנושא AI. פתיחה והנגשה אחראית של מאגרי מידע, להנגיש אותם למפתחים, רשות התקשוב עשו אצלנו לאחרונה איזה שהוא האקטון עם מידע שנפתח על ידי - - - והביאו מפקחים ואני חושב שזה כיוון נכון. גם החלטת הבריאות הדיגיטלית היא בכיוון הנכון. אגב, באיחוד האמירויות, הם מינו שר, זה השר היחיד בעולם ל-AI והם שמו לעצמם יעד שהממשלה תפתח 800 דאטה בייס, שזה עד 2021. הדבר הרביעי זה להנגיש את היכולות האלה גם לתעשיות שהן לא הייטק. כולנו מכירים את ההתרחקות בין שתי הכלכלות בישראל, זה דבר חשוב ואנחנו מחויבים להתאמץ בו.

והדבר האחרון?

נקודה אחרונה. גוגל עובדת, לא בכל העולם, בכמה מקומות, אני יכול לציין את הודו ביחד עם הממשלה, לתמוך בממשלה בתכניות האלה במה שאנחנו יכולים, במה שהממשלה מעוניינת בו, אנחנו כמובן מציעים את זה גם בישראל ונשמח להמשיך בשיח בנושא הזה. תודה.

תודה על הדברים. פרופ' עירד בן גל, אוניברסיטת תל אביב.

אני אהיה מאוד קצר. נאמר פה הכול, למעשה, ואני רק אזקק את המסר שנראה מבחינתי חשוב ואני אצמד למה שנאמר קודם, גם לגבי היתרון בקוטן וגם לגבי ההצלחה בסייבר. אני חושב שיש כמה דברים, אם נחשוב על ההזדמנות ברמה ממשלתית שאפשר לעשות, כל האלגוריתם שדיברנו עליהם, בוודאי מכוניות אוטונומיות, הן נשענות על מידע והן חייבות את המידע הזה בצורה דיגיטלית. הבוסט הגדול ביותר למערכות כאלה במדינה כמו מדינת ישראל יהיה לפתוח את מאגרי המידע בצורה מבוקרת, כמובן תוך התחשבות בסיכונים בתחומים שדיברנו קודם, תחבורה, רפואה, בירוקרטיה, ערים חכמות. ואם יש מקום שיכול להביא אלינו תעשייה והזדמנות בטווח קצר לעשות אימפקט זה יהיה בדיוק אם נוכל דווקא בשטח כזה קטן להנגיש את כל המידע הזה. אני בטוח שגם באקדמיה, גם סטארט אפים וגם חברות בינלאומיות מאוד ישמח לקחת בזה חלק.

רוב החברות המעניינות היום בעולם אלה חברות שיודעות לעבוד בין שני העולמות האלה, אם זה אמזון, גם בעולם הפיזי וגם הדיגיטלי, וגם בארץ, גם וייז וגם מובילאיי, הכול נשען על העובדה שאתה יכול לקחת מידע מהעולם הפיזי ולהעביר אותו דיגיטציה ואז לעשות דברים חכמים ולהחזיר את זה חזרה לעולם הפיזי. זה לדעתי המסר העיקרי.

תודה על הדברים שהיו מתומצתים באמת ומכוונים טוב ועמדו בלוח הזמנים.

פרופ' יואב בנימיני, גם מאוניברסיטת תלאביב. בבקשה.

אני חושב שהתחום של בינה מלאכותית נשען על רגליים יותר רחבות מאשר התחום של סייבר. הוא נשען, כמו שהזכירו, על מדע הנתונים ועל למידה ממוחשבת ובהנדסה - - - וכן הלאה, וזה תחום רחב מאוד. נדבך מאוד מרכזי פה זה מדע הנתונים, זה ביג דאטה ולמידה ממוחשבת ולמידה סטטיסטית וסטטיסטיקה וכן הלאה וכן הלאה. זה גם משפיע על הדרך שבה אנחנו יכולים לבנות את היכולות שלנו בכיוון הזה. זאת אומרת אם אנחנו מדברים על איך לומדים את הדבר הזה, אז לומדים את זה לרוחב של הרבה מקצועות שונים וכך צריך להיות גם בתארים המתחילים בהם, זה ממדעי המחשב וסטטיסטיקה והנדסה, מערכות מידע וכו' וכו', ואת כל התחומים האלה צריך לבדוק.

אני רוצה רק לספר, הוות"ת הקימו ועדה לתכנון אסטרטגי למדע הנתונים, הוועדה מתחילה לעבוד השבוע, אני עומד בראשה, אנחנו גם ממפים את היכולות באקדמיה ואת המצב הקיים, אנחנו נותנים אסטרטגיה הרבה יותר רחבה מאשר איך לשפר את הדברים האלה, אלא גם איך צריכה להיות התרומה למשל ל-AI, לבינה מלאכותית, למשל במדעי החברה, אנחנו חושבים שנראה לי, בינתיים, שהכשרה בכיוון הזה של איך לוקחים נתונים, איך מנצלים אותם, איך מוציאים מסקנות, איזה יתרונות יש לזה ואיזה מגבלות יש לזה, זה חינוך שצריך להגיע לכל מי שלומד תואר ראשון כדי שיוכל להתמודד אחרי כן גם כאזרח עם היכולות והמגבלות. אני רוצה שהפעילות הזאת תהיה מוכרת גם כאן.

תודה. הדובר האחרון, הרשות לחדשנות, ממש בדקה.

כן. אין ספק שאנחנו עומדים פה בפני מהפכה שאנחנו חווים אותה בתקופה הזאת. אנחנו מקדמים מספר פעילויות שמאפשרות לחברות בתעשייה לקבל סכומים משמעותיים למחקר, אנחנו כמובן נשמח לראות את מובילאיי וגוגל מובילות פה את התעשייה ובעצם מפזרות אבק כוכבים על מגוון חברות הסטארט אפ שמההסתכלות שלנו חסרות את הידע או ה - - - לא תמיד מושלם ואם אנחנו רוצים גם לשפר ולשמור על האוכלוסייה הזאת אנחנו נשמח למעורבות כזאת.

תודה רבה על הדברים. יש לנו עוד ברשימה, אבל הזמן תם. לזה עוד לא הצליחו לעשות בינה מלאכותית, לעצור את הזמן. אז קודם כל אני רוצה להודות לכם כולכם שהשתתפתם איתנו, זה היה חשוב מאוד. פרופ' אמנון שעשוע, אני לא יודע כמה אתה לוקח להרצאה בחוץ - - - לא לוקח, אז אתה עוד לא לוקח, ברוך ה'. אבל אין ספק שבאמת זה היה חשוב מאוד והידע שלך הוא גם ידע יישומי מאוד וזה דוגמה להרבה דברים ואתה נגעת בנקודות. היה מאוד חשוב לשמוע, אבל זה רק אומר לנו שיש כאן מרחב גדול מאוד. זה דיון ראשון, אולי זו גם שאלה, דיון ראשון שהפרלמנט עושה את זה במסגרת הזו, לא על דברים שצריך ללמוד, לראות גם את תחום הממשלה ביישום וגם כקביעת מדיניות.

בסוף, לא צריך להגיד את זה, לא צריך להגיד שלישראל יש את היכולת באמת ובינה מלאכותית היא הכתובת ודאי להיות מובילה, ללא ספק, וגם הבשורה הזאת, מבחינתי זו בשורה, של פרופ' יצחק בן ישראל וד"ר אביתר מתניה, שאנחנו מכירים אותם, הם יעמדו בראש המיזם הזה, מיזם האיתור, אני חושב שזה נותן איזה כיוון טוב. כמובן גם אתם לא יכולים על הכול. מעבר לכך שגופים פרטיים, בוודאי שיזמים מוצאים את ישראל כמקום נוח, יש לנו הרבה מה לעשות ואנחנו צריכים להתחיל עכשיו לפרוס לפרוסות את כל מה שאנחנו חושבים שצריך לעשות ולקבוע שצריך לעשות. יש דברים, גם נגיד, נניח בתחום הרגולציה או בתחום החקיקה וקביעת המדיניות, אנחנו חושבים שלא לעשות, זו גם החלטה, רק צריכים לראות שאנחנו מקבלים החלטה.

אני לא כל כך מסכים, למשל, אני יכול להביא את הדוגמה שבתחום הסייבר, כשאת אומרת שאנחנו ידענו את הסכנות וטיפלנו בהם, המדינה לא כל כך טיפלה - - -

מי טיפלנו?

חלק מהדברים. אני רוצה לתת לך לדוגמה, אני לא מדבר על תופעות של שיימינג ותופעות של הסתות, אני מדבר על כמו הסייבר, שאנחנו היינו מובילים, אבל כמדינת ישראל, הממשלה שלה לא ידעה, היא היום מטמיעה מערכות שבפיתוח לא פיתחו יחד עם הסייבר. אנחנו לפעמים בבחינת הסנדלר הולך יחף, יכול להיות שהממשלה יכולה להתקדם, המדינה יכולה להתקדם הרבה ולהזניח את החקיקה שלה, מה שהיא צריכה ואנחנו בחלק הזה כן רוצים להיות, אנחנו לא רוצים לגרום לפערים, ושהמדינה לעצמה וגם בשירות לאזרח ובכלל בתפקוד שלה היא תהיה בעניין. מעבר שיש כאן גם שאלות כלליות ואנחנו נגענו בזה.

זאת לא הישיבה האחרונה שלנו, זו הישיבה הראשונה ואנחנו נקיים עוד ישיבות ואני מאוד אשמח ואודה לכם על שיתוף הפעולה, מאוד השכלנו מאלה שדיברו ומאלה שממונים, וגם אלה שלא הספיקו, אני אתן הזדמנות בפעם הבאה. אני מודה לכם, תודה רבה.


הישיבה ננעלה בשעה 14:00.