פרוטוקול של ישיבת ועדה
הכנסת העשרים-וחמש
הכנסת
29
ועדת המשנה בנושא בינה מלאכותית וטכנולוגיות מתקדמות
15/01/2025
מושב שלישי
פרוטוקול מס' 9
מישיבת ועדת משנה של ועדת המדע והטכנולוגיה
בנושא בינה מלאכותית וטכנולוגיות מתקדמות
יום רביעי, ט"ו בטבת התשפ"ה (15 בינואר 2025), שעה 9:05
ישיבת ועדה של הכנסת ה-25 מתאריך 15/01/2025
הצעה דחופה לסדר היום בנושא: "ישראל מידרדרת בתחום ה-AI לעומת שאר מדינות העולם"
פרוטוקול
סדר היום
הצעה דחופה לסדר היום בנושא: "ישראל מידרדרת בתחום ה-AI לעומת שאר מדינות העולם" של חברי הכנסת אורית פרקש הכהן, ולדימיר בליאק ויצחק קרויזר
נכחו
¶
חברי הוועדה: אורית פרקש הכהן – היו"ר
ששון ששי גואטה
סימון מושיאשוילי
צבי ידידיה סוכות
מטי צרפתי הרכבי
עידן רול
נאור שירי
מוזמנים
¶
ראוי חילו - רע"ן כלכלה, משרד ראש הממשלה
דנה מילר - מובילת חדשנות, חשכ"ל, משרד האוצר
מירב זרביב - סמנכ"לית ומנהלת מנהל חדשנות וטכנולוגיה, משרד החינוך
שרית פלבר - ר' אשכול טכנולוגיה וחדשנות, ייעוץ וחקיקה כלכלי, משרד המשפטים
סדריק יהודה צבע - ממונה טכנולוגיות חדשות, משרד המשפטים
איריס עמבור - מנהלת מחלקת תיאום, משרד החוץ
ד"ר נחום גבינט - עמית ממשק, משרד הכלכלה והתעשייה
ניצן קרסנטי - ראש אגף בכיר צמיחה וחדשנות, משרד הכלכלה והתעשייה
יוסף גדליהו - מנהל תחום בכיר בינה מלאכותית, משרד החדשנות, המדע והטכנולוגיה
אלעד דביר - רע"ן בינה מבצעית, צה"ל, משרד הביטחון
זיו קציר - מנהל התכנית הלאומית לבינה מלאכותית, רשות החדשנות
עוז שנהב - מנהל מחלקת חדשנות ופיתוח מדיניות, הרשות להגנת הפרטיות
רותם קלמר סיני - מנהלת תחום מדיניות, מערך הדיגיטל הלאומי
יוסי אביב - מערך הדיגיטל הלאומי
יואב זקס - רח"ט מו"פ וטכנולוגיות, המטה לביטחון לאומי
רועי גולדשמידט - מרכז המחקר והמידע של הכנסת
דניאל מילבאוור - רכז, אגף אסטרטגיה ובינלאומיות, המועצה להשכלה גבוהה-ות"ת
דב רוסו - המועצה הלאומית למחקר ולפיתוח אזרחי
ד"ר ניל נמיר - המועצה הלאומית למחקר ולפיתוח אזרחי
ניצן מנשה - סטודנט, המועצה הלאומית לכלכלה
יובל ריינפלד - עמית מחקר, אוניברסיטת רייכמן; יו״ר משותף של ועדת בינה מלאכותית בלשכת עורכי הדין
אפרת בכר נתנאל - מנכ"לית, מכון מוזאיק למדיניות בינה מלאכותית, מכוני מחקר בתחומי מדיניות, טכנולוגיה וחדשנות
אריאל סובלמן - חוקר בכיר, המכון למחקרי ביטחון לאומי INSS
הדס לורבר - חוקרת אורחת, המכון למחקרי ביטחון לאומי INSS
אורי אליאבייב - יועץ לנושאי AI, Machine & Deep Learning Israel
דוד מנהיים - מנהל מדיניות ומחקר, אלתר - הארגון למען העתיד הרחוק, מכוני מחקר בתחומי מדיניות, טכנולוגיה וחדשנות
סהר מיליס - מייסד ומנכ"ל טכנולוגיות בסטארטאפ MarkeTeam.ai, מרצה, אוניברסיטת רייכמן
דניאל שרייבר - יו"ר מכון MOSAIC למדיניות בינה מלאכותית, מייסד ומנכ"ל חברת למונייד
טל שורץ אשחר - מנהל סמסונג פאונדרי ישראל, Samsung
שי צסלר - ראש תחום רגולציה בינלאומית, בנק הפועלים
רועי מונין - מנכ"ל עמותת Made in JLM, ארגון הגג של קהילת ההייטק והסטארטאפים בירושלים
אלי פרנק - יו"ר, לשכת טכנולוגיות המידע בישראל
סיון נויפלד - מנהלת פיתוח עסקי, איגוד ההיי-טק הישראלי
הילה היבש - סמנכ״לית ייעוץ משפטי, קשרי ממשל ואחריות חברתית, חברת מייקרוסופט ישראל
יורם ליכטנשטיין - יו"ר משותף הועדה הארצית לבינה מלאכותית, לשכת עורכי הדין
אורנית כהן - ראש רשות מחקר וחדשנות, המרכז הרפואי וולפסון
יריב קסנר - שותף, ראש תחום היי-טק, פירון ושות' - עורכי דין
סמדר איצקוביץ' - מייסדת ומנכ"לית, עמותת המעבדה החייה בישראל
יוסי חיימוב - סגן נשיא, חברת אברא (יישום והטמעה של מערכות מידע)
הדס פורת גוש - ראש מטה, עמותת בנתיבי אודי
זאק גוטליב - חבר בוועד המנהל, העמותה המעבדה החייה בישראל (ע״ר)
טל שחף - עיתונאי, מומחה ל-AI, ידיעות אחרונות Ynet
רישום פרלמנטרי
¶
נועם כהן, חבר תרגומים
הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות.
הצעה דחופה לסדר היום בנושא: "ישראל מידרדרת בתחום ה-AI לעומת שאר מדינות העולם", של חה"כ אורית פרקש הכהן, ולדימיר בליאק, יצחק קרויזר (מס' 320).
היו"ר אורית פרקש הכהן
¶
בוקר טוב לכולם, אני שמחה לפתוח עוד דיון חשוב בוועדת הבינה המלאכותית בכנסת. נושא הדיון היום הוא יוזמה של חברי כנסת מכל סיעות הבית שהעלו מה שנקרא בכלים פרלמנטריים הצעה דחופה לסדר בנושא "ישראל מידרדרת בתחום ה-AI לעומת שאר מדינות העולם". ההצעה הזו התקבלה במליאת הכנסת והועברה לוועדה הזו כדי שזו תדון בנושא של דו"ח מבקר המדינה וכולי, ותעביר את זה להתייחסות משרדי הממשלה כמו שהחוק מחייב.
אני חושבת שבסוף העיתוי של הדיון הזה הוא לא מקרי עם מה שקרה בימים האחרונים בתחום הזה, אני חושבת שיש לדיון הזה משמעות אחרת וחשובה. קודם כול, אני רוצה לומר שאנחנו מקיימים את הדיון הזה בצל ימים מאוד מאתגרים של עסקת חטופים, ימים גורליים שמטלטלים הרבה מאוד מהציבור הישראלי ומשפחות החטופים שנמצאות הרבה מאוד בכנסת, ובכל זאת חשבתי שיש חשיבות גדולה מאוד לקיים את הדיון הזה. ומדוע?
כבר תקופה ארוכה שבוועדה הזו אנחנו משמיעים קול ונותנים במה למובילים בתעשיית ההייטק הישראלית שאומרת שאנחנו נמצאים במרוץ אסטרטגי גיאופוליטי בתחום ה-AI. זוהי לא רק תחרות טכנולוגית, אלא גם מרוץ גיאופוליטי שמגדיר את מאזן הכוחות. ואתם יודעים, כמובן, בלי להשוות, אם עד 7 באוקטובר הייתה קונספציה, אנחנו רוצים בוועדה כאן תמיד להיות הקול שמאתגר את הקונספציות הממשלתית בתחום ה-AI. אני חושבת שאנחנו נתחיל לדון בסוגיה הזאת גם היום שממשלת ישראל נמצאת באיזושהי קונספציה.
כשאנחנו מסתכלים על דו"חות של רשות החדשנות למשל מיוני 2024, אנחנו שומעים שישראל היא מעצמת בינה מלאכותית, מספר שלוש בעולם. לפי המחקר של רשות החדשנות, ישראל נמצאת במקום השלישי בעולם בחברות שמובילות את תחום הבינה המלאכותית אחרי ארצות הברית ובריטניה. גם הבוקר מתפרסמים הדברים של מנכ"ל רשות החדשנות בכלכליסט שאומר, מצב המדינה בתחום הבינה המלאכותית מצוין, לא פחות מזה.
מצד שני, יש פער. אנחנו רואים ירידה בדירוג, אנחנו רואים את דו"ח מבקר המדינה שמצביע על ירידה בכל הקשור לאסטרטגיה הממשלתית בתחום ה-AI וכמובן בנושאים שאנחנו מדברים עליהם פה בוועדה בתחום תשתיות הטכנולוגיה הזו.
שלשום קרה משהו דרמטי. הנשיא ביידן פרסם הוראה חדשה ומאוד דרמטית שמחלקת את העולם ואת מדינות העולם לצירים, מי בין בעלות בריתה הקרובות בתחום תשתיות ה-AI ומי לא, ואנחנו לא ביניהן, אנחנו לא בטיר, בשכבה הגבוהה. תכף נדון על הדברים האלה שיעמדו במוקד הדיון היום. לדבר הזה יש משמעויות דרמטיות על עתיד התעשייה בישראל, אבל לא פחות מזה, לא רק על תעשיית ההייטק, גם על מצבה ומעמדה הביטחוני-טכנולוגי של ישראל.
אני רוצה להפנות מכאן שאלה שנדון בה היום, איך יכול להיות שהממשלה באמת סבורה שהכול במצב סביר פלוס והעובדות מורות אחרת? ואנחנו נמצאים כאן בניתוק, צריך להגיד אותו על השולחן ואנחנו מכבדים את כל הדעות, אבל הממשלה מבחינתנו לא מבינה שיש כאן אירוע ולא מגיבה, לא בקצבים, לא במשאבים ולא בדרך הנכונה.
ולכן אנחנו באמת נפתח את הדיון עכשיו להצגה של הנושא הזה, של השינוי. במוקד הדברים יהיו לא רק, אבל גם הצו שפרסם הנשיא ביידן בנושא הגבלות ייצוא על שבבים בתחום הבינה המלאכותית. ויש לנו כאן אורחים חשובים ומעולים, כמובן לצד נציגי רשות החדשנות, משרד הביטחון, המל"ל, משרד החוץ והכלכלה, יש לנו כאן נציגים מן התעשייה.
יש לנו את אריאל סובלמן, חוקר בכיר במכון INSS, יש לנו את דניאל שרייבר, מייסד שותף בחברת Lemonade, זו לא פעם ראשונה שאתם באים ומקדישים מהזמן שלכם למליאה. כמובן מייקל אייזנברג שיופיע בסרטון מוקלט. יש לנו את אורי וכמובן עוד משתתפים רבים שנרשמו לדיון.
יתחיל את הדיון אורי. אורי, אנחנו בקשנו ממך מבחינה אינפורמטיבית לשים את כולנו באותו קו ולמקד את ההצגה שלך כרגע בפתיחה במה פורסם שלשום, מה פרסם הנשיא ביידן, למה זה כל כך דרמטי למדינת ישראל, ואחרי זה משם, מהבסיס לדיון הזה נעבור לאריאל, למייקל אייזנברג, לדניאל, לגבי מה עמדתם ביחס לדבר הזה, כמובן גם אתה תוכל בסבב נוסף להגיד מה אתה ממליץ, וכמובן נעבור לממשלה שבסוף יש להם פה תפקיד מפתח.
בבקשה אורי, הבמה לרשותך.
אורי אליאבייב
¶
(מוקרנת מצגת)
תודה רבה לכולם, תענוג להיות כאן, באמת ועדה מאוד חשובה שבאופן חוזר ונשנה שמה זרקור על הנושא המאוד מאוד קריטי. באמת כמו שנאמר, לפני כמה ימים יצאו מגבלות חדשות של הממשל האמריקאי לגבי אי מכירה של שבבים למדינות מסוימות, והמטרה שלי לתת לכם סקירה קצרה על הנושא.
אני אגיד כבר שיש הרבה דברים שהם חדשים, יש הרבה דברים שהם עדיין לא ידועים, יש הרבה סימני שאלה, האמריקאים בעצמם עוד מביאים כל מיני הבהרות, אנחנו תוך כדי גם נשים כמה חידודים ונעמוד על ההבדלים והשוני בהצעה כולה.
זה מי שאני, מי שרוצה לדעת יותר, מוזמן. אני יועץ אסטרטגי, עוזר למדינות וגם למשרדי ממשלה להבין מה אפשר לעשות עם AI, הקמתי קהילה מאוד גדולה עם 42,000 איש שאני עושה שם הרבה דברים טובים לאקוסיסטם, וגם הייתי חבר בוועדה הלאומית לרגולציה ואתיקה בתחום הבינה המלאכותית, נושא שמאוד קרוב אליי.
מה עיקר התקנות החדשות? בגדול, ארצות הברית חילקה את העולם לשלוש קבוצות עיקריות. הקבוצה הראשונה, מדינות ללא הגבלה, 18 בעלות ברית, כולל ארצות הברית, אתם יכולים לראות פה רשימה של מדינות: בלגיה, קנדה, אוסטרליה, דנמרק, גרמניה, בריטניה ועוד הרבה מדינות שלהן אין שום הגבלה על קבלה של שבבים מתקדמים ורכישה, מבחינתן הכול אותו דבר.
מדינות הדורשות רישוי ומכסות, זה כולל גם ישראל. יש לנו שמה מדינות כמו פולין, מקסיקו, סינגפור ואיחוד האמירויות. אלו מדינות שצריכות לקבל אישור וגם צריכות לעדכן על השימוש של כל רכיב וחומרה שהן קונות ומקבלות.
אורי אליאבייב
¶
כן, גם התימנים פה, רשימה מאוד אקסקלוסיבית לכל הדעות. והרשימה האחרונה, 25 מדינות, לא ציינתי את זה פה, מדינות שאסור בכלל למכור להן: סין, רוסיה, איראן, צפון קוריאה ועוד, הן בכלל לא יכולות לקבל אף גישה לאף GPU לחלוטין.
כמו שאתם יכולים לראות פה מפה מאוד צבעונית שמציגה את כל המדינות בכחול, המדינות של טיר 1, כאלה שאין עליהן הגבלות. בצהוב, המדינות שיש עליהן הגבלות, אנחנו עוד רגע נבין מה ההגבלות. ובאדום מי שבכלל אסור לו למכור. אתם יכולים לראות איך זה מתפלג, אילו מדינות באמת ובאילו אזורים אנחנו רואים את הפוקוס, אבל זו הדרך שבה האמריקאים מחלקים את העולם לכאלה שיכולים לקבל בלי הגבלה, כאלה שיש עליהם מגבלות וכאלה שאסור למכור להם בכלל.
בואו נדבר על ההגבלות בפועל, מה זה אומר. מדינות שיהיו בטיר השני, יהיו להן מכסות לגבי היקף כוח החישוב הקיים בכל מדינה. זה אולי לב ליבה של כל ההצעה. כבר אי אפשר לקנות כמה GPUs, כמה חומרה שרוצים, יש מגבלה, צריך לנהל רישום, וארצות הברית רוצה לדעת כמה GPU-ים יש בכל מדינה ומדינה. זה אולי החלק הכי חשוב בכל התקנות החדשות.
נקודה שנייה ומשמעותית גם היא, יצירת תהליך בירוקרטי לקבלת אישור לרכישת כוח חישוב. האמריקאים אמרו שכל מי שירצה לקבל, GPU יצטרך לנהל תהליך. יצירת תהליך בירוקרטי לקבלת אישור, שזו נקודה גם מאוד משמעותית. בחלק מהמקרים האמריקאים ירצו לדעת לאיפה כל GPU הולך, מה התכלית שלו ומה מטרתו, וגם כמובן מה הגוף שקנה אותו.
ונקודה אחרונה, מגבלות על פריסה של קוד המקור של מודלי AI במדינות מסוימות. זה נשמע קצת מפוצץ וטכני, אבל בשורה התחתונה זה אומר שאם למשל Open AI רוצה לקחת את המודל שלה ולפרוס אותו פה, מקומית בישראל כדי להציע אותו בקצב מהיר יותר, כדי להציע אותו אולי במחיר זול יותר, זה כבר לא יהיה באופן אינהרנטי ובאופן חלק, ארצות הברית צריכה לאשר את זה. זו נקודה מאוד מאוד משמעותית, במיוחד אם אנחנו רוצים שחברות בינלאומיות ישימו את המודלים שלהם פה אצלנו, על אדמת ישראל.
בעקבות כל הבלגן שיצא, והיה הרבה בלגן סביב זה, הבית הלבן הוציא מזכר הבנות שקצת מפרט בצורה יותר מעמיקה לגבי המגבלות ולגבי מה מותר ומה אסור. ממש הוציאו את זה שלשום ונתנו קצת יותר אור על כל הסוגיות השונות. קודם כול, כמה חידודים. אחת, הם אמרו נתון מאוד מרתק, הזמנות של עד 1,700 יחידות GPU מתקדמות לא ידרשו רישיון, שזו כבר נקודה מעניינת.
זה מיועד בעיקר למוסדות כמו אוניברסיטאות, בתי חולים, ארגוני מחקר שמבצעים, ושימו לב, זה הדגש, שימושים ברורים ובלתי מזיקים בטכנולוגיה הזאת. כלומר, כל מי שחשקה נפשו לחקור ולהשתמש ב-AI כדי לזהות סרטן מוקדם ודברים כאלה, אין עם זה בעיה. והם קבעו את המספר הזה ל-1,700 יחידות GPU, זה לא המון, אבל זה עדיין מספר מכובד שמאפשר לנו לעשות לא מעט חישובים. לשם הדוגמה, מחשב העל שאנחנו רוצים להקים בתור מדינה, אנחנו מדברים על סדר גודל של 1,000 יחידות GPU.
נקודה נוספת, והיא מאוד משמעותית, היא יצירת שני סטטוסים חדשים, אתם רואים פה את הסטטוס הראשון, נקרא UVEU, עם השם המאוד קליט, Universal Verified End-User, שזה מה שאומר שמדינות שיש להן התקני אבטחה גבוהים שממוקמות אצל בעלת ברית קרובה יקבלו סטטוס שמאפשר להן לקבל כוח חישוב מאוד משמעותי וגם לשים עד 7% ממנו במדינות אחרות שהן בנות ברית שלהן, שזו נקודה מאוד משמעותית.
אורי אליאבייב
¶
מבלי שזה ירד מהמכסה. ניסיתי כמה שיותר לא להיכנס יותר מדי לפרטים, אבל יש הרבה פרטים. והסטטוס אולי הכי גבוה והכי יוקרתי, National Verified End-Users, ישויות שעומדות באותם תקני אבטחה ואינן ממדינות עוינות יוכלו לרכוש עד 320,000 יחידות GPU בשנתיים הקרובות. רק לסבר את האוזן, לחברת מטא עצמה, פייסבוק, יש 350 אלף מעבדי GPU, לה, לעצמה. לא דיברנו עדיין על כל המתחרות, כל השחקניות. זה בא רגע לשים עוגן לגבי אם זה הרבה או לא. אלה מספרים שיש לחברות פרטיות מסחריות בארצות הברית, פה אנחנו מדברים על מדינות שיהיה להן עד הכמות הזאת, נקודה מאוד מעניינת מצד האמריקאים.
וארבע, מדינות שלא עומדות בקריטריונים האלה, של ה-VEU, יוכלו לרכוש עד 50,000 יחידות GPU למדינה, שזו מדינת ישראל. יש לנו קאפ של 50,000 יחידות GPU, שזה מה שאנחנו יכולים לנהל את הכלכלה שלנו, סביב המספר הזה. כמו שציינתי, יש כמה יוצאים מן הכלל ויש כאלה שלא נכנסים לספירה, אבל בגדול זה מה שאנחנו נוכל להשיג כמדינה.
היו"ר אורית פרקש הכהן
¶
אבל צריך להגיד שממש מוגדרים גופים ממדינות של ברית קרובה לעומת לא ברית קרובה, ואנחנו לא בברית הקרובה.
היו"ר אורית פרקש הכהן
¶
אלה הגדרות אולי טכניות, אבל הכניסה למועדון הזה, הם הגדירו שהמדינות שהן בברית קרובה הן שם, ואנחנו, עם עוד 150 מדינות כולל תימן, לא בברית הקרובה. צריך להדגיש את זה כי זה לא רק דבר טכנולוגי.
אורי אליאבייב
¶
נכון, זו נקודה מאוד קריטית. יש פה עניין שבסוף הם אומרים, יש לנו מדינות שאנחנו סומכים עליהן יותר, מדינות שאנחנו סומכים עליהן פחות, ואם אנחנו טובים כדי לקנות F-35, אנחנו כנראה לא מספיק טובים בשביל לקנות כמה GPUs, שזו נקודה מאוד משמעותית. כמו שאמרתי בהתחלה, ארצות הברית מחלקת את העולם לשלוש קטגוריות, אנחנו לא בקטגוריה הטובה ביותר.
עוד נקודה מאוד מאוד קריטית והיא קיבלה שקף משל עצמה, הסכם בין ממשלות. הבית הלבן שם דגש מאוד משמעותי שאם יש מדינות שחותמות על הסכמים ומסונכרנות עם מאמציהן בתחום הייצוא, האנרגיה הירוקה והביטחון הטכנולוגי, הן יוכלו להכפיל את תקרת רכישת השבבים ל-100,000 יחידות. שזה פתח שהאמריקאים שמים, אומרים שיש מדינות שאולי לא נכללו בטיר הראשון, יכולות לבוא ולדבר איתנו, אנחנו נוכל להכפיל להן את המגבלה ובעצם לאפשר להן 100,000 יחידות, זו נקודה מאוד משמעותית.
אורי אליאבייב
¶
קודם כול, הם לא סתם שמו את הנקודות האלה. קודם כול, המאמצים שלהם בתחום הייצוא, מה שאומר בעברית פשוטה, הם רוצים לדעת מה יוצא והם רוצים לדעת אצל מי זה נמצא, שזו נקודה מאוד משמעותית.
אורי אליאבייב
¶
כן, בדיוק, שהאמריקאים ישלטו. האנרגיה הנקייה, ועשית גם ועדה קודמת על כל הנושא של האנרגיה. האמריקאים גם מבינים שלגרום לכל הדאטה סנטרים האלה לעבוד מצריך הרבה אנרגיה וזה עולה הרבה משאבים, הם רוצים לדעת שהמדינות שאיתם רואות עין בזה, והביטחון הטכנולוגי, שזה אומר גם בצורה מאוד פשוטה, שארצות הברית תשמור על ההובלה שלה. שזו השורה התחתונה של כל המצגת הזאת, ארצות הברית רוצה לשמור על ההובלה שלה, היא מבינה שזה נלקח ממנה ושכבר מזנבים בה, ולכן היא עושה את המגבלות האלה. מי שירצה לקבל עוד יצטרך להתיישר עם כל הדירקטיבות של האמריקאים.
השקף הזה, אני אשלח לכם אחר כך, מי שירצה, מסכם בצורה מאוד מאוד יפה את כל המגבלות. כמו שאתם רואים, יש פה הרבה פרטים, לכמה מותר, בכמה שנים, לאיזה גודל, אבל אתם יכולים לראות פה בצורה מאוד ברורה שיש שלוש קטגוריות, מדינת ישראל היום בקטגוריה השנייה שהיא מוגבלת. אפשר להסתכל על כמה הגבלות, לאיזה גודל, מה נחשב ומה לא, אבל בסוף, אם עד עכשיו היינו רגילים לקנות GPUs ולבנות מערכים פה ודאטה סנטרים בלי הגבלה, עכשיו אנחנו נצטרך רגע לדבר עם האמריקאים על כל דבר שנרצה להביא לפה.
המלצות לפעולה, אנחנו נשאיר את זה לשלב מאוחר יותר של הדיון, זה עד כה, תודה רבה.
היו"ר אורית פרקש הכהן
¶
תודה רבה, אורי. נעבור אליך, אריאל. אריאל בכיר בחברת ולנס וגם חוקר ב-INSS, ואתה עוסק הרבה בסוגיות שמחברות בין אסטרטגיה לטכנולוגיה. הבמה שלך, בבקשה.
אריאל סובלמן
¶
(מוקרנת מצגת)
תודה רבה. כאמור, אנחנו דנים פה בנושאים שהם קריטיים למדינת ישראל, אבל אני מרגיש חובה להגיד שבעיניי לפחות הם מרגישים כמעט חסרי תוחלת עד שלא יחזרו החטופים הביתה, אני מקווה שזה יקרה ממש ממש ממש מהר.
הדיון הזה מתקיים גם בגלל שהשבוע, כאמור, כמו שהציג אורי, נפל דבר בישראל. אני לא אחזור על הדברים האלה שנאמרו מכיוון שיש פה גם כיסוי תקשורתי מאוד מאוד רחב להגבלות שפורסמו, וגם אני חושב שאין צורך באמת להסביר את חומרת המצב למרבית הנוכחים פה בחדר, בוודאי הפרקטיקנים ואנשי התעשייה שבהם שמבינים ואנחנו כבר שנה מתריעים שהמצב לא טוב בבינה מלאכותית בישראל.
אני שומע גם בחדשות שקיימת איזו תקווה ששבוע הבא יבוא איזה ממשל חדש בארצות הברית ופשוט יבטל את ההגבלות הללו. אני לא יודע על מה מבוססות התקוות האלה, ואני דווקא שומע הפוך מראשי התעשייה בארצות הברית שתומכים בהגבלות האלה ואני לא יודע. אבל הנקודה היא שגם אם תבוטלנה ההגבלות, זו תהיה טעות גדולה לחזור לסדר היום ולהאמין שהכול בסדר.
הדיון הזה נקבע בלי שום קשר להגבלות האלה שהוכרז עליהן, הרבה לפני, הוא נקבע משום שמעמדה של מדינת ישראל בבינה מלאכותית ממשיך לרדת. זה תהליך קריטי שהוא קשור לכל המדדים העולמיים שלא קשורים בשום דבר להחלטת הממשל הנוכחית, אך יש סיכוי, אולי אפילו סיכוי טוב, שהם קשורים להחלטה הזאת. זאת אומרת שישראל שנכנסה לדרג ב', זה לא בגלל שהממשל החליט לעשות משהו כדי להכניס לדרג ב' בגלל משהו שישראל עשתה, אלא בגלל שהממשל זיהה שמצבה של ישראל יורד במדדים והנכסיות שלה לארצות הברית לא כל כך משמעותית בתחום הבינה המלאכותית ולא היה משהו שיעצור את הסחף וימנע מהם להכניס אותנו לדרג ב'.
אני רוצה להודות לחברי הכנסת שיזמו את הדיון הזה, אני חושב שהציבור בישראל זכאי לתשובה מוסמכת, מה מעמדה האמיתי של מדינת ישראל במרוץ הטכנולוגי הזה שהולך להשפיע על כולנו. כאמור, כבר לפני שנה הוועדה הזו בראשות חברת הכנסת פרקש זיהתה משבר מתהווה בתחום הבינה המלאכותית, ובשנה האחרונה מתריעה כי, אחת, לטעמנו, התוכניות הפועלות כיום אינן עונות על ההגדרה של אסטרטגיה לאומית. יש היעדר כמעט מוחלט של הכוונה ומדיניות ממשלתית בתחום, כלי המדידה המסורתיים, זאת אומרת שהיקף ההשקעות והמדדים שנהגנו להסתכל עליהם מייצרים תמונה שגויה לגבי מידת ההתקדמות ומצבה של המדינה. והחמור מכל שאני אתייחס, שיש משבר חמור בתשתיות טכנולוגיות לאומיות שמתורגמות לכוח מחשוב לאומי.
התוצאה הבלתי נמנעת של זה תהיה המשך הירידה בדירוג של ישראל, וכאמור, אני חושב שלהמשיך מכוח האינרציה, מה שקורה עכשיו, לזה אנחנו באמת קוראים קונספציה. אין טעם לסקור את כל הסיבות לירידות, זה ידרוש שעות ארוכות, ואני אתמקד היום, בדיון אנחנו נתמקד בשלושה דברים.
אני אתמקד במשבר התשתיות, ובמיוחד לאור ההגבלות החדשות שרק יחמירו את המשבר הזה, מר דניאל שרייבר שהסכים לבוא, הוא יציג גם חזון לאומי למדינת בינה מלאכותית שיכול לעמוד בבסיס אסטרטגיה, ומייקל אייזנברג שנמצא בחו"ל ולא יכול היה להיות פה, הוא שלח וידאו שיציג גם את ההקשר הגיאו-אסטרטגי ואת ההכרח הדחוף לאמץ אסטרטגיה לאומית וריכוז הסמכויות אצל גוף מבצע אחד.
יש הבדל בין תפקידי הממשלה והשוק הפרטי, זה נשמע כמעט מצחיק שצריך להסביר את זה פה, אבל אני אגיד בכל זאת. על כתפי התעשייה והפרקטיקנים שפה, על הנציגים שפה מוטל האתגר ובעיניי מוטלת הזכות לממש את ההזדמנויות של בינה מלאכותית לטובת כלל אזרחי המדינה. האקדמיה, שגם הנציגים שלה פה, אחראים לייצר את ההון האנושי שיכול לעשות את זה, ותפקידה של הממשלה וגופי הביצוע הוא להעמיד את התנאים ההכרחיים.
במקרה הזה יש בלבול, והדבר המשמעותי ביותר שמצופה מהממשלה, מעבר לחזון ואסטרטגיה, הוא להעמיד תשתית טכנולוגית מתאימה, תשתית מחשוב, תשתית שתוכל לשמש לצרכים האלה, ואני אדבר על זה בהרחבה. אני גם מתנצל מראש ששני השקפים האחרונים יהיו מעט טכניים, אבל אין ברירה. בכל מקרה, כאמור, באחריות הממשלה להבטיח שלושה דברים: חזון לאומי שיצית את מנועי היזמות והפיתוח, ועל זה דניאל ידבר, אסטרטגיה כוללת למימוש החזון והסמכת גוף ייעודי אחד לדבר הזה, והבטחת תשתית טכנולוגית מינימלית בישראל ואת מערכת הבריתות והקואליציות להשלמת יכולותיה שהיא לא יכולה.
ללא אלה, המדינה תהיה תלויה לחלוטין בתשתיות זרות. בתור מישהו שבא מהמכון למחקרי ביטחון לאומי ובתור פשוט היגיון בסיסי, תלות טכנולוגית אינה שונה משום תלות אחרת. המדינה השקיעה מאז הקמתה משאבים אדירים למנוע תלות במשאבים כמו מים, חיטה, אנרגיה. תלות במשאבי טכנולוגיה ותשתיות זרות לא שונה ומהווה סיכון לביטחונה הלאומי של מדינת ישראל.
אני אגיד את הדברים בצורה מפורשת יותר. עד היום היה חופש פעולה וחופש משמעותי לאנשים לקבוע את הדירוג פחות או יותר לפי משאלות הלב. כל אחד יגיד, אנחנו מקום ראשון, שני, עשירי, זה לא כל כך שינה. אבל אני חושב שאני מדבר בשם מרבית הפרקטיקנים פה, אם לא כולם, שאומרים שבמצב האופטימי ביותר ישראל ירדה לסוף העשיריה הראשונה בעולם והמגמה היא לירידה נמשכת ומתמשכת במעמדה.
אם פעם יכולנו להחליט על דירוגים בעצמנו, אני חושב שהחלטת הממשל האמריקאית סוגרת את האופציה הזו. דירגו אותנו, אנחנו בדרג ב' ולא משנה איך נגיד, אם אנחנו מקום ראשון או 100, זה לא משנה, החליטו בשבילנו מה הדירוג האמיתי של מדינת ישראל. בעלת הברית המשמעותית ביותר שלנו ממקמת את ישראל בדרג ב', יהיו לזה השלכות אדירות על יכולתה של המדינה לממש את שאיפותיה בתחום הזה. להגבלות עוצמת המחשוב גם תהיה השפלה, השפעה.
אריאל סובלמן
¶
גם השפלה האמת, נכון, זו הייתה פליטת פרוידיאנית כנראה. כמו שאמר אורי, הרכיב של עוצמה כלכלית הוא לא הדבר היחיד ואולי לא המרכזי שקבע את הדירוג. זאת אומרת, יש מדינות חלשות מאיתנו, ניו זילנד היא דוגמה נורא מעניינת מהסיבה שכלכלתה קטנה בחצי מזו של ישראל ועדיין היא נכללת בדרג א'. שוויץ שחזקה מאיתנו והודו שחזקה פי שמונה או משהו כזה, הן בדרך ב', כי ישנם עוד פרמטרים, ישנם עוד שיקולים. אמון בין המדינות, נכסיות של התעשייה שלהן, וגם, אורי טיפה הזכיר את זה בלי לקרוא לזה בשם המפורש, הפריימוורק, הדיאלוג הטכנולוגי של Trusted Technologies בין המדינות, זה משהו שמדינת ישראל התחילה ולא נגמר עדיין והוא רכיב משמעותי. האמון הטכנולוגי חייב להסתיים על מנת שארצות הברית תרצה להכיר בישראל בתור מדינת דרג א'.
עכשיו אני אגש לסוגיית התשתית. ללא תשתית ישראלית מינימלית מתאימה יקרו בהכרח שני דברים. אחד, התעשייה תיאלץ בהיעדר אופציה, בהיעדר אלטרנטיבה, להתרכז ביישומים, יישומי בינה מלאכותית. זאת אומרת, יבנו אפליקציות ויתנו שירותים והכלכלה תתבסס על דברים כאלה, אבל היא לא תוכל לעסוק באמת ולהוביל בתחום של פיתוח יכולות, מודלי יסוד ובוודאי שלא מודלי חזית.
הדבר השני הוא שאותם שחקנים ואותן חברות שירצו לתת שירותים ויישומים יאלצו ברוב המקרים לרוץ על גבי תשתית מסחרית בחו"ל. זאת אומרת לרוץ, להשתמש בחוות השרתים ועוצמת החישוב בחו"ל. הדבר הזה כאמור יגרום לתלות, להרבה מאוד מערכות של תלות משמעותיות ואין טעם לפרט אותן כאן. מהסיבה הזאת יש הכרח להבטיח עוצמת מחשוב לאומית מינימלית.
בדיון לפני כשנה פה הצגתי תוכנית טכנולוגית לאומית של INSS, והיום אני מציג את החלק, המשכנו לעבוד על זה והיום אנחנו פורטים אותה, ואני מתרכז רק ביעד אחד מתוך התוכנית הזו, שזו המלצת INSS ליעד עוצמת חישוב לאומית. המאמצים כיום, ואני רוצה להדגיש שאין פה שום אמירה לגופו של אדם חלילה, ואני מאמין בכל הכוונות של מדינת ישראל ושל העוסקים בדבר, אבל אני רוצה לדבר על התוצאות בינתיים.
היום בישראל יש מחשב על של Nvidia, פרטי, שיש סיכוי שאולי יוכל לשרת גם, יגיעו לאיזו הסכמה שהוא יוכל לשרת צרכים של הציבור, בינתיים הוא פרטי. המחשב הזה מספק עוצמת חישוב של 41 וחצי פטה-פלופס, זו יחידת המחשוב. יש קילו, מגה, ג'יגה, טרה, ופטה זה עוד יותר. זה מה שהוא עושה. והמחשב הזה מסוגל להעמיד את ישראל, ואני מפשט את הדברים ומתנצל, אבל לצורך הדיון, פחות או יותר במקום ה-35 מבחינת עוצמת החישוב בעולם. כאמור, לזכור שהמחשב הזה הוא לא פתוח לקהל ולציבור, ורק כדי לקבל נקודת ייחוס, המחשב החזק היום בעולם הוא בעוצמה של 1,742 פטה-פלופס.
פרויקט מחשב העל הישראלי, שהוא מתמהמה ולוקח הרבה זמן והוא לא קרה עדיין, תנאי המכרז הנוכחיים יכולים היו בתיאוריה, נכון לנובמבר 2024, לספק 99 פטה-פלופס, מה שהיה מעמיד את ישראל לדעתנו, להערכתנו, במקום ה-13 והמאוד מכובד בעולם. אבל כאמור, המחשב הזה לא קיים היום, וממילא לא הייתה גישה לשבבים שהיו יכולים לתת את עוצמת החישוב הזאת. זאת אומרת, לקנות, שמדינת ישראל באמת תשים את ידיה על שבבי H200 של Nvidia ההכרחיים, כשמתחרים מול כמויות אדירות של קונים פוטנציאליים ברחבי העולם, לא בטוח שמדינת ישראל הייתה יכולה בכלל להשיג את השבבים האלה, כך שהחישוב הוא תיאורטי לדעתי.
אם מבצעים את אותו החישוב מול שבבים שכן היו זמינים למדינת ישראל בתקופה הזו, אזי עוצמת המחשב הייתה יכולה להגיע ל-40.3 פטה-פלופס, שמספיקים לשים אותנו במקום ה-35 בעולם. זאת אומרת שזה לא מקום מוביל. אבל שוב, המחשב הזה לא קיים עדיין.
היו"ר אורית פרקש הכהן
¶
כלומר, מה שאתה אומר, שהפרויקט הלאומי, הדגל שמתעסקים איתו כבר מעל לשלוש שנים, במקור הוא ייצר מחשב שהוא ברמה של יכולת של אימונים ושימוש ברמה של 35 במיקום של האיכות של המחשבים האלה.
אריאל סובלמן
¶
כן, להערכתנו כן. אני רוצה להדגיש את זה כי יוצאים כל הזמן שבבים חדשים בשוק, וכמה שאנחנו נשארים במקום, הפער הולך וגדל. אנחנו אומרים שללא התערבות ממשלתית מיידית לטיפול בדבר הזה, להגדיר מחדש את היעדים, הפער הגדל יגרור ירידה נוספת בדירוגה של המדינה.
אני אומר את זה באמת בצער גדול, אבל אני חושב שמחשב העל הישראלי במתכונתו הנוכחית לא יוכל לספק את עוצמת החישוב המינימלית ההכרחית למדינת ישראל. על מנת להיות שחקן רלוונטי במגרש הבינה המלאכותית, על ישראל להגדיר יעד לאומי מחייב להגיע לעוצמת חישוב של 1,289 פטה-פלופס. למה המספר הזה? אורי לא דיבר, הגבלות הייצוא מתורגמות לשיטת חישוב שמגדירים מה שנקרא Total Processing Power, TPP, ומותר לייצא 790 TPP. 1,289 פטה-פלופס הם שווי ערך לקצת פחות מחצי מהגבלת הייצוא האמריקאית, ואנחנו חושבים שזה יוכל לשים את ישראל במקום תחרותי, שיהיה מחשב שיכול להיות לפחות עד 2027 במקום מוביל בעולם ולשמור על עמדה תחרותית עד 2030.
העלות של דבר כזה, מחשב העל, המכרז הנוכחי מתוקצב בכ-290 מיליון שקל, העלות להבטיח הובלה ולבנות מחשב שיכול לעמוד ביעד העוצמה הזה, העלות היא של 4 מיליארד שקלים בערך, שהם כחצי אחוז מהתל"ג כיום.
היו"ר אורית פרקש הכהן
¶
עכשיו, אני יכולה לחשוב על הרבה מאוד מקומות שכספי התקציב בימים של מלחמה הולכים בסכומים כאלה ולא קשורים למלחמה ולא קשורים למפונים שאפשר היה לשים אותם על הפרויקט הזה.
אריאל סובלמן
¶
אני קטונתי מלתת עצות תקציביות, אבל ההיגיון הפשוט שלי אומר שא', קיים כסף כזה, אבל חייבים להבין שזה להגיע למחשב הראשון, העלות הזאת תלך ותגדל עד לסף כי עוצמת החישוב הנדרשת מכפילה את עצמה כל תקופה, ועל מנת לעמוד בזה, השקעה כזאת לאומית תחייב להגיע ליעד של בסביבות 1.75% מהתל"ג. רק כדי לתת השוואה, חברת אינטל זכתה להטבות מפליגות ממדינת ישראל במהלך השנים בסכומים גדולים בהרבה מ-4 מיליארד שקלים ויש מחקרים גם של המדינה שהראו שההחזר על ההשקעה הזאת היה הרבה יותר מאשר ההשקעה עצמה. ולכן יש יסוד להאמין שגם השקעה כזאת במחשב על רלוונטי תאפשר לתעשייה להתחרות בצורה טובה ויכנס כסף למדינה, מספיק כסף יכנס להכנסות כך שיוכלו לכסות על ההשקעה הזאת.
אני מתחיל לסכם. לכן, על מנת לעצור את המשך ירידתה וההידרדרות בדירוג של המדינה, יש צורך בכמה צעדים מיידיים. דבר ראשון, אסטרטגיה לאומית שעד היום לא הוגדרה שמטרותיה הן, אחת, יעד של להגיע לדרג א'. לא נוכל באמת להתקיים לאורך זמן כמדינה מוצלחת בלי שאנחנו בדרג א' של ארצות הברית. להגדיר יעד להגיע לדרך א' עד סוף שנת 2026.
רק דבר אחד, ראיתי כבר בתקשורת בכל מקום שהתחילו להגדיר את הדרגים האלה בתור מעגל א', מעגל ב'. אני מתקומם על ההגדרה הזאת כי מעגל נשמע פחות גרוע מדרג. Tier באנגלית זה הרבה יותר כמו דרג מאשר מעגל, וכוונת המשורר הייתה להגדיר דרג, לא מעגל ראשון, מעגל שני. שלא נבלבל את עצמנו עם איזה מינוח מכובס, שהמעגלים, אין להם משמעות.
הדרך למימוש היעד הזה עוברת בהקמת תשתית טכנולוגיה שתספק את עוצמת המחשוב הנדרשת עם יעד מחייב לאומי של 2,289 פטה-פלופס. אני אשתמש בשנינות שעלתה לי בקפיטריה, היום במקום פטה-פלופס יש לנו פטה-פלופ אחד גדול. יש הכרח, כמו כל אסטרטגיה, יש הכרח בחזון לאומי שיהווה את הדלק להניע אותה, להמריץ את התעשייה, להדליק את היזמים, וכל אלה, על מנת שהדבר הזה יוכל לקרות, מחייבים העברת חוק טכנולוגיה לאומית שאנחנו קראנו לו כבר בתוכנית הטכנולוגיה הלאומית של INSS, אנחנו ממשיכים לקרוא פה, ואני מקווה שהוועדה פה או תקרא לכנסת ולממשלה או תיזום חוק הזה בכוחות עצמה. תודה רבה על הזמן.
היו"ר אורית פרקש הכהן
¶
תודה, תודה רבה על הדברים החשובים. אנחנו נקבל אחרי זה את ההתייחסות. אני חושבת שמה שאותי די מזעזע זה במיוחד שאנחנו מתעכבים שנים, מקימים איזה מחשב שבסוף הוא בכלל בטיר, איך אתה קורא לו? הוא טיר סוסיתא, זה לא צופי פני למשל שני עשורים של צרכים, ואז עושה משהו שהוא אפילו מתקדם ביותר.
אני רוצה לברך את קבוצת התלמידים מכיתה י"א בבית הספר ליד"ה. שלום, ברוכים הבאים, אנחנו ממש שמחים לראות אתכם כאן. אנחנו בדיון מאוד חשוב בוועדת בינה מלאכותית. אתם משתמשים בבינה מלאכותית קצת?
היו"ר אורית פרקש הכהן
¶
אנחנו כאן בדיון בכנסת אליו הזמנו את נציגי הממשלה, את נציגי התעשייה של ההייטק. אנחנו עוסקים בצו מאוד דרמטי שפרסם הנשיא ביידן שמתעסק במעמד ישראל בבינה מלאכותית. אנחנו חושבים שהממשלה צריכה לדאוג לזה שישראל תהיה בדרגה הכי גבוהה של בנות הברית של אמריקה בתחום הזה. וזה הדיון, זה מה שאנחנו עושים בכנסת, מציפים, והפרלמנט שמפקח על הממשלה. ברוכים הבאים ותודה רבה שאתם משתתפים בדיון.
הדובר הבא יהיה מייקל אייזנברג, אנחנו נעלה סרטון שלו עם מסר מראש בגלל שהוא באמת לא נמצא בארץ כרגע. צריך להדגיש שהדברים של מייקל נאמרו והוקלטו לפני פרסום הצו של הממשל האמריקאי שלשום, ואני חושבת שזה יהיה מעניין לראות כמה זה עדיין עומד בקנה אחד ונכון גם אחרי פרסום הדברים הללו, קל וחומר.
מייקל אייזנברג
¶
חברי הוועדה, סליחה שנבצר ממני להיות איתכם היום, אני נמצא בחוץ לארץ. אני רוצה להודות לחברת הכנסת פרקש הכהן וגם לידידיי, אריאל סובלמן ודניאל שרייבר על העמדת נושא ה-AI בראש סדר העדיפויות הלאומית עכשיו. לפני כמה חודשים נאמתי פה בוועדה ותיארתי את החובבנות הממשלתית בטיפול בבינה מלאכותית. לצערי הרב, אותה חובבנות עדיין חוגגת.
יש תוכנית של יש עתיד שעובדים עליה ותוכנית של משרד החדשנות והמדע, ומשרד ראש הממשלה עוסק בנושא, והנושא הזה מפוזר בין הרבה מאוד גורמים. אסור שזה ימשיך ככה. חובה להקים מוקד אחד בתוך הממשלה עם סמכויות נרחבות, עם יכולת לקצץ פה רגולציה בשביל להתקדם במהירות, ואני רוצה להסביר למה. כמו שהיה וכמו שסיפרתי לפני כמה חודשים במאה הקודמת עם הגרעין ועם טכנולוגיות מרחיקות לכת, ה-AI, הבינה המלאכותית הולכת לקבוע מי תהיה מעצמה ומי לא בעשרות השנים הבאות.
אני חוזר ואומר, הבינה המלאכותית וההובלה בתחום, יהיו הדבר הכי חשוב למדינות להפוך להיות מה שאני מכנה AI Super Societies ומעצמות אזוריות ובינלאומיות בעידן הנוכחי. מעבר לזה, הולכים לקום צירים, כנראה מול ארצות הברית ומול סין, לדוגמה. הצירים האלה יאפשרו למדינות שהן חלק מהציר להיות חלק משרשרת אספקה בטוחה, מתקדמת וטכנולוגית כדי לאפשר למדינות האלה להתקדם בנושא הבינה המלאכותית ולהפוך להיות מעצמות של בינה מלאכותית, וחובה לעבוד על זה היום.
ממשל טראמפ זה עתה נכנס לבית הלבן, הם שוקדים על תוכניות, גם אזוריות וגם בינלאומיות בנושא שרשראות אספקה טכנולוגיות וגם מי יהיה חלק מהציר בבינה מלאכותית. מדינות אחרות, הן באזור והן במקומות אחרים נמצאות כבר בפתחו בפלורידה ובוושינגטון של הממשל החדש ומציגים להם תוכניות, ואנחנו עדיין לא במשחק.
הבינה המלאכותית פותחת הזדמנויות לשיתופי פעולה אזוריים חדשים. בין אם זו אנרגיה ממדינות המפרץ, השקעה מאסיבית שלהם ב-GPUs, בצ'יפים שהבינה מלאכותית היום מבוססת עליהם, בין אם זה נושא של פאבים שבו הודות להשקעה של המון שנים במדינת ישראל באינטל ובפאבים אחרים אנחנו יכולים לייצר פה גם צ'יפים. שיתופי הפעולה האזוריים האלה בתקשורת, בשבבים, ובמימון של התקדמות הבינה המלאכותית פותחת לנו הזדמנויות. ההזדמנויות האלה הן לא רק הזדמנויות, מי שלא יתפוס את ההזדמנויות ימצא את עצמו בסכנות אורכות ומתמשכות לאורך השנים.
הבינה המלאכותית, הן לחברה האזרחית והן לנושא הביטחוני והדיפלומטיה האזורית היא חיוניות לעתידנו. אני רוצה להוסיף, ממשלת ישראל נטלה על עצמה הרבה מאוד חובות בשנה וחצי האחרונות למימון גם הממשלה והוצאותיה וגם הוצאות הביטחון שבאו בעקבות המלחמה. אין דבר צודק יותר מהוצאות הביטחון, פחות צודק הן ההוצאות שממשיכות כרגיל בתקציב הרגיל שהולך ונמשך. מה הדרך לצאת מזה? יש שתי דרכים לצאת מזה, האחת היא לקצץ, והשנייה היא צמיחה.
דבר ראשון, השקעה בבינה מלאכותית תצמיח פה את הכלכלה, ומאידך, גם כן, הגיוס של בינה מלאכותית לתוך השירות הציבורי והממשלה יכול להפחית בכוח האדם. הפחתה בכוח אדם איננה רק חיסכון ברמת התקציב, אלא גם ייעול של המערכת הציבורית וכפועל יוצא מכך גם ייעול של המגזר הציבורי. כי השירות הציבורי הגדול והמנופח הוא נטל על הפריון של המגזר הפרטי.
ועכשיו אני חוזר לנושא של שרשראות האספקה. למדינת ישראל יכולות שאין בהרבה מדינות. יש לנו יכולות בצ'יפ-דיזיין, עיצוב צ'יפים ותכנון צ'יפים, ויש לנו יכולות בייצור צ'יפים, כמו הפאבים של אינטל ושל טאואר סמיקונדקטור ואחרים. אנחנו מהמדינות היחידות בעולם שיכולות לעשות את שני הדברים האלה. לא רק, בשוק הטכנולוגי הישראלי יוצאות פה מכונות לבדיקת צ'יפים. בנוסף, יש לנו כוח אדם מעולה לתוכנה ולייצור אפליקציות של בינה מלאכותית, ואת זה חייבים למנף בהשקעה מאסיבית שתצמיח פה את הכלכלה, ושוב, גם יעזור לשירות הציבורי לעשות את זה. אבל בעיקר, בעיקר, למצב את העתיד האסטרטגי של מדינת ישראל מול מדינות האזור ומול המעצמה שנקראת ארצות הברית.
זה בידינו להפוך להיות מעצמה. אנחנו צריכים חשיבה אסטרטגית וחשיבה מעצמתית בנושא הטכנולוגי הכי קריטי שהתגלגל לפתחנו. אני מבקש מכם בוועדה הזאת, תוציאו קריאה, אין זמן. אנחנו עדיין יכולים להוביל את ציר המדינות שהוא חלק מהציר האמריקאי לדבר הזה. בין אם זו איחוד האמירויות, בין אם זו אנגליה, בין אם זו סעודיה, בין אם זו הודו, בין אם אלה קוריאה ויפן, אנחנו יכולים להיות המובילים של הציר הזה, של הדרג השני בציר ארצות הברית, אבל אין זמן.
צריך לחתוך ברגולציה, צריך להשקיע באופן מאסיבי, מדובר על עשרות מיליארדי שקלים, וצריך לבנות אסטרטגיה דיפלומטית וביטחונית למען עתידנו, למען עתיד ילדינו, ולמען ביטחוננו ושגשוג הכלכלה. מעצמה. והמעצמה שמדינת ישראל יכולה להיות מורכבת משני דברים: כלכלה משגשגת ועוצמה ביטחונית. ואני אומר לכם, אנחנו יכולים להיות שניהם, זה לא סותר, זה משלים. וזו חובה עלינו לתפוס את העידן ולהתקדם הלאה בכל הצירים האלה. תודה רבה על הזמן.
היו"ר אורית פרקש הכהן
¶
תודה רבה על הדברים החשובים האלה של מייקל. צריך לזכור: הוא באמת דיבר לפני פרסום הצו, שימו לב איזה דגש הוא נתן לעובדה שיש כאן צירים מעצמתיים, משתמש במילה מעצמה ומשתמש בנרטיב שאנחנו מוכרחים כיעד להיות בת ברית קרובה למעצמה טכנולוגית.
מכאן אנחנו עוברים אליך, דניאל שרייבר, תודה רבה שאתה כאן, אנחנו יודעים שיש לך עוד כמה דברים שאתה עושה. מעבר לזה שאתה כמובן המייסד והבעלים של Lemonade אתה גם הכנת מכון בשם מוזאיק למדיניות בינה מלאכותית שאנחנו יודעים שעובד על דברים מאוד חשובים. היית בדיון הקודם בנושא התעסוקה ולכן אנחנו נצפה שתבוא עם דברים שהמכון הזה עושה לדיוני המשך אחרים. אבל בינתיים תודה שהגעת לכאן לדיון בנושא הזה, ובבקשה, הבמה שלך.
דניאל שרייבר
¶
תודה רבה, תודה ליושבת הראש. תודה לכולם. אני מצטרף לדאגות ולדעות שהושמעו פה, שהשמיעו פה קודמיי, ואני רוצה להשלים קצת או אולי לבנות עליהם. הטכנולוגיה בשנים האחרונות, בשנתיים האחרונות ביתר שאת, החליפה פרדיגמה, במדינת ישראל פחות, אנחנו עדיין בפרדיגמה קודמת. מעברים דוריים שכאלה הם סכנה למי שלא שש ורץ להחליף סוס, ואני חושב שכבר אפשר להגיד שיהיו משמעויות ארוכות טווח לשנים שאיבדנו. יש עוד מה לעשות, אבל המחיר שנשלם על מה שלא עשינו, הוא ישאר איתנו לאורך הרבה מאוד זמן לדעתי.
אני רוצה בכל זאת להציג בשם מכון מוזאיק שתי אסטרטגיות או המלצות למדיניות שאני חושב שהן רלוונטיות ומתאימות לישראל ולגודל השעה. דקה לפני שאני קופץ לזה אני רוצה להגיד משהו וקצת למקם את איפה שאני חושב שאנחנו יכולים לא רק לשחק, אלא גם לנצח על ידי זה שנחשוב טיפה על הסטאק, על המערום, על השכבות של AI.
כנראה שתקומנה, ואנחנו רואים שזה כבר קורה, מספר מצומצם של חברות שיהיו שוות טריליונים. אבל יהיו כאלה בודדות, חמש, שש, שבע ברחבי העולם. יש סיבה טובה להאמין שישראל לא תזכה באחת מאלה בגלל שאנחנו לא היינו שמה בשעה הקריטית. אני מדבר על שתי טכנולוגיות בעיקר, הראשונה היא בתחום השבבים, ה-GPUs, אנחנו לא בנקודת הזינוק והמרוץ החל כבר מזמן ופשוט בלתי אפשרי היום לסגור את הפער הזה. וזה לא רק בגלל שאנחנו מדינה קטנה. טאיוואן, שהתל"ג לנפש שלה הוא שליש פחות משלנו, הם שחקן גלובלי בינלאומי משמעותי בתחום הזה. התירוץ הזה פחות תופס. אבל יש פה בעיה של הון.
היו"ר אורית פרקש הכהן
¶
גם יש את ניו זילנד. דיברת על זה, אריאל? שזה גם לא בהכרח קשר ישיר לכלכלה עצמה, הישירה.
דניאל שרייבר
¶
כן. להקים היום מפעל חדש של Nvidia כפי שהיא מקימה באריזונה, זו עלות של כ-40 מיליארד דולר, TSMC בטאיוואן. זה גם משחק של הון, אבל לא רק, גם של יכולות, ואין אותן בישראל. זו השכבה הבסיסית, זה מה שמייצר את המוח הבסיסי ביותר בסטאק של ה-AI. מעל זה יש את כל אלה שקונים את ה-GPUs האלה שכבר דובר עליהם היום ומייצרים מהם את הבינה המלאכותית עצמה, את חוות השרתים האלה. חברות כמו Open AI ו-Claude ו-Gemini של גוגל, וזה משחק גם של גדולים.
בישראל יש מעט, יש את AI21 של אמנון שעשוע ויואב שוהם, יש את SSI שאיליה סוצקבר הקים שתעשה חלק מהפיתוח שלה בישראל, יש לה שלוחה בישראל. אבל אין מנוס מהמסקנה שאנחנו שחקן מזערי במחקר ופיתוח ולא קיים בתשתיות בכלל, וזה משחק של תשתיות.
מיקרוסופט הודיעה, חברה אחת בלבד, רק מיקרוסופט, ורק בשנה הנוכחית, ב-2025, הולכת להשקיע 80 מיליארד דולר בתשתיות של בינה מלאכותית. זה שווה ערך לתקציבים של משרד החינוך, הבריאות, הביטחון, הרווחה והתחבורה גם יחד במדינת ישראל. אנחנו לא רק מאחרים למשחק הזה, אנחנו לא באים בכלל עם כובד המשקל הנדרש, ולכן, למרות המאמצים שקודמיי דיברו עליהם שהם נדרשים, יש להכיר בגודל הפער שנפער בין איפה שאנחנו ואיפה שהמשחק היום נמצא.
יש לזה משמעויות מרחיקות לכת. זה אומר שהחברות של הטריליונים לא תקומנה בישראל, פספסנו את זה, וזו הבכייה לדורות שאני לא יודע אם יש ממנה תקומה. אבל גם זה יצר תלות שאריאל דיבר עליה, חוק השבבים החדש מצביע עליו, אולי כמה מפתרונות הקוד הפתוח יעזרו לנו לשקם קצת את התלות שיש לנו שהיום היא תלות ממש מסוכנת, בטח בעידן שאנחנו רואים מה קורה לנו בשעת מלחמה עם ברגורים ודברים אחרים כאלה, זה עשוי לתפוס אותנו גם בבינה המלאכותית.
את חברות הטריליון דולר לא נקים בישראל ככל הנראה, אני מקווה שאני טועה, אבל יקומו לצד כמה חברות של טריליוני דולרים הרבה חברות של מיליארדי דולרים, ופה לא פספסנו את הרכבת, אפשר להקים כאלה חברות לתפארת מדינת ישראל. וזו באמת השכבה האפליקטיבית, היישומית. אלה הן שכבות שלוקחות את אותם צ'יפים, את אותם מודלי בינה מלאכותית ובונים עליהם פתרונות לחברות ולשווקים ספציפיים, הם מתעלים את הבינה המלאכותית.
החברה שאני אמון עליה, Lemonade, היא כזאת. אנחנו לוקחים את הבינה המלאכותית מהחברות בארצות הברית והופכים אותם לסוכני ביטוח, למשלמי תביעות ביטוח, לעורכי דין ועוד כהנה וכהנה בתוך החברה. ואנחנו מגיעים באמת לרמת הישגיות מבחינת האוטומיזציה שכל הפוליסות נמכרות על ידי AI, רוב תשלומי הביטוח נעשים על ידי AI. אני אחזור לזה טיפה בהמשך.
את מה שחברות כמו שלנו עושות אפשר לעשות בישראל בכל תחום ותחום. אפשר לעשות את זה בתחום הבריאות ובביוטכנולוגיה ותרופות וחקלאות ואנרגיה ושירותים משפטיים ושירותים פיננסיים, ניסויים ביטחוניים. אפשר להקים פה כוורות בתחומים שונים שבאמת יהיו מאוד מאוד משמעותיות, אנחנו לא בכיוון גם פה.
אני חושב שישראל היא מסוגלת ואני חושב שלבית הזה, לממשלה יש תפקיד לא כיזם וגם לא כמממן, אבל כרגולטור וכמדרבן, ועל שני אלה אני רוצה לדבר, על אסטרטגיות של רגולציה מאפשרת ושל צרכן מדרבן והדברים האלה מאוד מאוד משמעותיים. אני אתחיל עם הרגולציה. חלקכם אולי מכירים את זה, אבל כולם יודעים שחברת טבע נהפכה לענקית התרופות הגנריות בעולם. שנים רבות היה לה 60%, 70%, 80% נתח שוק, סביבה אקו-סיסטם שלם התפתח, אוניברסיטאות, בוגרים, חברות משנה וכן הלאה וכן הלאה.
פחות ידוע שהיתרון הזה הוא תוצאה מחוקים ישראליים שהיו שונים מהחוקים הכלליים. בשנות ה-60 ואילך חוק הפטנטים בישראל היה פטנט של תהליך, חוק שמנע העתקת תהליכים, אבל לא של מוצרים מועתקים. וזה היה בשונה מכל הפטנטים בשאר העולם, וזה נתן לטבע את היכולת לייצר תרופות גנריות כשנתיים עד שלוש לפני שאר העולם. היתרון הזה של שנתיים בלבד תורגם ל-80% נתח שוק ולכוח עודף בתמחור המוצרים שלהם ברחבי העולם.
בשנות ה-2000, כשהצטרפנו ל-World Trade Organization השווינו את הפרקטיקה שלנו ואיבדנו את היתרון הרגולטורי הזה, אבל החלון הזה שנפער הספיק ואנחנו עדיין היום חזקים מספיק גם בלי גלגלי העזר ועדיין חזקים בתחום הזה בגלל היתרון הרגולטורי שנולד בטעות. אנחנו יכולים ונדרש שהמדינה כרגולטור תשנה מגמה כי היום לא זו בלבד שהמדינה אינה מדרבנת את כל האפליקציות שאני מדבר עליהן, היא מאיטה אותן, היא מעיקה, היא מקשה.
למה בישראל אין רכבים אוטונומיים? למה אין רובו-טקסי? הולכים היום ללוס אנג'לס ולאוסטין ולסן פרנסיסקו ואפשר להזמין מונית אובר סטייל רק בלי נהג בכלל ואנחנו לא שמה. מי שקונה טסלה ומתרגש להשתמש ב-FSD, Full Safe Driving, בישראל זה כבוי כי הרגולטור פה לא מאפשר את זה. זה לא רק שאנחנו לא בקדמה, יש לנו פה את מובילאיי, יש לנו פה יכולות, ואי אפשר ליישם אותן במדינת ישראל כי הן אסורות על פי חוק. צריך ללכת למקומות כמו סינגפור או לאמירויות או לארצות הברית ששמה מתירים את הדברים האלה כדי לפתח את הטכנולוגיות האלה.
כאמור, לא זו בלבד שהמדינה אינה מתמרצת, המדינה מקשה. והדבר הוא נכון בתחום הרכבים והוא נכון במקומות אחרים. יש שיפור כלשהו, אבל לא שיפור מספיק. מי שרוצה עכשיו לפתח בביוטק ובבריאות ובכל מיני מקומות אחרים, עדיף לו או לה ללכת למדינות כמו סינגפור או אפילו אנגליה, שלא לדבר על ארצות הברית, שלא לדבר על סין, ובכל המקומות האלה, קטנים וגדולים כאחד, אפשר לפתח ולהתנסות הרבה יותר מהר מבישראל.
לא זו בלבד שטבע לא תצא מפה, אנחנו גורמים לזה שהיא תצא במקומות אחרים. אותו יתרון שפעם נתנו לעצמנו בתחום התרופות, אנחנו עכשיו עושים את ההופכי ואנחנו מערימים קשיים על כל מיני סטארטאפים. זה הדבר הראשון, נדרשת פה רגולציה זריזה, מתירנית בגבולות הסביר, לא לחקות את האירופאים, לא לחכות לאירופאים, אלא להיות בחזית שמאפשרת את הפיתוחים האלה.
הדבר השני, ואני חושב שהוא היותר יומרני והוא ממש ישנה פה סדרי בראשית, אבל הוא חייב להיות בהלימה עם הנקודה הראשונה, זה שהמדינה תיקח על עצמה פרויקט מונשוט. מונשוט על משקל פרויקט אפולו של להעמיד בן אדם על הירח, איזושהי משימה שהיא כמעט בלתי אפשרית אבל לא ממש בלתי אפשרית ושכשכולם נרתמים אליה אפשר לדלג על כל מיני טעויות ובעיות שעשינו בעבר ולהגיע לקצה. פרויקט אפולו, לא רק שהוא העמיד אדם על הירח, אלא היו לו אפקטים כלכליים מאוד דרמטיים וארוכי טווח, דוריים. מאות אלפי משרות, מובילות לדורות בשבבים, בחומרים מתקדמים, בלימודי המדעים, והחזר של המחקרים מראים בין 7 ל-14 X על ההשקעה. כמה שזה עלה, זה החזיר בערך פי 10 יותר לממשלה, למדינה, על ציר הזמן.
אני מציע משהו בסגנון הבא: מונשוט, יעד למדינת ישראל, חמש שנתי, של הורדת תקציב הממשלה ב-25% תוך הכפלת השירות, זמני השירות, איכות השירות. לא 5%, 5% אפשר להגיע אליו בלי לעשות מעבר סיטונאי ל-AI על ידי הממשלה, אפשר מהיקב ומהגורן לקושש 5%. צריך פה משהו הרבה יותר יומרני שייצר Forcing Function, שיכפה על המערכות לשנות את המשחק עצמו. מישהו אמר לי לפני שנים, אם רוצים לנצח את קספרוב צריך להזמין אותו למשחק פינג פונג. אי אפשר לשחק את אותו משחק ולחשוב שאנחנו ננצח, צריך לשנות את כללי המשחק.
בחברה שלנו אני תמיד אמרתי לצוותים שלנו, לחשוב שאנחנו יכולים להיכנס לתחום הביטוח ולהיות 10% יותר טוב מחברות שכבר 100 שנים בתחום זו יומרה בלתי נסבלת, כי זה אומר שאתה תשחק את אותו משחק, תשחק אותו יותר טוב. איזו מן יומרה זו? זה לא קיים. אבל לחשוב שאפשר לעשות דברים פי 10 יותר טוב זה פחות יומרני, כי זה אומר שאתה תשנה את כללי המשחק, אתה תעשה שימוש סיטונאי לא בסוכנים ובבני אדם אלא ב-AI ופתאום אפשר להגיע לזה, וכאמור, אנחנו שם בהרבה מקרים. רוב התביעות שלנו משולמות תוך שלוש שניות, אנחנו צריכים כוח אדם מינימלי בהתייחס למתחרים שלנו כי החלפנו תשתית.
יש לא מעט מחקרים, Deloitte טוענים, ואני מצטט, "עם השקעה ותמיכה מספיקות, אנו מאמינים שבינה מלאכותית תוכל לפנות 30% מזמנם של עובדי הממשלה תוך חמש שנים". אנחנו רואים מחקרים של ה-OECD, של ה-World Economic Forum, של Accenture, של McKinsey, של IDC, שמצביעים על חסכונות ש-AI יביא בייעול צריכת האנרגיה, בהקצאת משאבים, בשיפור תכנון מדיניות, בתחזוקה, בשיפור גביית מיסים, באופטימיזציה בתחבורה, בניהול משברים ואסונות וכן הלאה וכן הלאה.
אם הממשלה תיקח על עצמה משהו יומרני שאפשר להיכשל בו אבל ההצלחה במודע תרתום את כל התעשייה, תכפה על כל המשרדים לשנות דיסקט, אנחנו עשויים לראות פה אקוסיסטם שיתפתח כדי למלא את הצורך הזה שכל משרדי הממשלה ירגישו אותו מייד. מייקל דיבר על זה קצת לפני כן, מאמץ כזה, בראש ובראשונה, בשעה שאנחנו רואים מה קורה לתקציבים שלנו, התקציבים מקוצצים, המיסים עולים, השעה ברורה לכולם.
בראש ובראשונה מעבר לתשתית AI על ידי המדינה תחסוך לאזרח ותשפר את השירות, אבל מעבר לזה, כאשר הממשלה תעמיד דרישה שכזו, תיווצר מוטיבציה אדירה עבור חברות ישראליות לפתח פתרונות חדישים לייעול מערכות הרפואה, החינוך, הביטחון, הרווחה וכיוצא באלה. והפתרונות האלה שיפותחו תחילה כדי לשרת את מדינת ישראל יוכלו כמובן להימכר ברחבי העולם ובכך יספקו יתרון כפול לאזרחי מדינת ישראל. מצד אחד, ישפרו את הממשלה ואת ייעול המיסים ואת השירותים שלנו, מצד שני, יכניסו משרות ומיסים מההייטק שיחזרו למקום הרבה יותר טוב.
והממשלה נוגעת בכל התחומים, גם ברגולציה וגם בצריכה. מדובר בביוטק, בהלת'טק, בליגלטק, באגרוטק, בדפנסטק, באף אחד מהתחומים האלה אי אפשר להתקדם בלי שהממשלה, א', תייצר את הרגולציה המתאימה, וב', תצרוך את השירותים האלה ותוביל את האקוסיסטם. והדברים האלה מתחברים, ככל שהממשלה תהיה צרכן של AI, היא תכאב את כאבם של הסטארטאפים המתנצחים עם הרגולציה ותהיה אינהרנטית, מתומרצת לפתור בעיות שהיום מונעות מהאקו-סיסטם להתקדם.
לסיכום, אני חושב שחשוב להבין במה ישראל יכולה לנצח. במערום של הבינה המלאכותית אני חושב שאנחנו יכולים לשחק תפקיד תומך בשכבות של הצ'יפים, ומייקל דיבר על זה, בשכבות של מודלי קדמה שדובר גם עליהם, אבל היא יכולה לשחק תפקיד מוביל בשכבה האפליקטיבית. המדינה היום מקשה, רגולציה במקומות אחרים קלה מהרגולציה בארץ, והיא גם לא מאמצת ולא מדרבנת. הרעיונות המוצעים, שהם מונשוט ל-25% התייעלות תוך שיפור השירות ותוך כדי מהפך מרגולטור קונסרבטיבי וקשה למעודד ומרשה יכול להפוך את המגמה. ברם, כפי שנאמר, ואני מסכים, השעה מאוחרת. במקומות מסוימים השעה כבר מאוחרת מדי ולכן יש צורך שהבית הזה יקבל החלטות דרמטיות ללא דיחוי נוסף. תודה רבה.
היו"ר אורית פרקש הכהן
¶
תודה רבה על הדברים החשובים שלך. קצת עצוב לשמוע שאתה סבור שבחלק מהדברים פספסנו את ההזדמנות, אריאל היה נשמע קצת יותר אופטימי בכל זאת. ואורי, אתה רוצה להוסיף לגבי ההמלצות? פשוט לך יש גם איזו תוכנית ב'. דניאל, תודה רבה.
אורי אליאבייב
¶
כן, אולי אני קצת יותר אופטימי. אפשר לשים את ההמלצות אם אתם רוצים לגבי הסוגיה של השבבים. ההמלצות לפעולה בכל מה שקשור לשבבים, קודם כול אני אגיד שאחרי שהבית הלבן הוציא את ההבהרות, נראה שהמצב שלנו יכול להיות הרבה יותר טוב ממה שחשבנו בהתחלה. זאת אומרת, אם אנחנו נעבוד נכון מול האמריקאים ונציג להם תוכנית סדורה שבה אנחנו פותרים את כל האלמנטים שמפריעים להם - - -
היו"ר אורית פרקש הכהן
¶
כן, אבל צריך לעבוד, לא להסתכל ולהגיד הכול מצוין, אנחנו בסדר, אנחנו על זה. צריך לעבוד.
אורי אליאבייב
¶
(מוקרנת מצגת)
האמריקאים ירצו להבין מה הקשרים שלנו עם הסינים ועד כמה אנחנו מעמיקים את שיתוף הפעולה איתם בהקשרים האלה. אחת, הקמת צוות ייעודי לשיח ישיר עם האמריקאים לגבי סוגיות פתוחות ביחס לישראל ושיפור מעמדה של ישראל. זאת אומרת, לא רחוק היום שבו אנחנו כן נוכל להיות בטיר 1 ולשדרג את המקום שלנו, זה נטו תלוי בשיח הפתוח שלנו עם האמריקאים. האמריקאים יודעים בדיוק להגיד מה מפריע להם ואיזה דברים הם רוצים שאנחנו נשנה כדי שאנחנו נוכל להיות בטיר 1. זה לא משהו שהוא רחוק, זה לא משהו שהוא בלתי אפשרי, צריך לעשות פה עבודת מטה מאוד רצינית וגם עבודה דיפלומטית וזה אפשרי.
אורי אליאבייב
¶
נכון. הם רוצים לדעת איפה הדאטה נשמר, מה העניין של היכולת לאבטח אותו, מה קורה עם היכולת שלנו לייצא את הטכנולוגיות האלה החוצה. הם רוצים לדעת דרך אגב שאנחנו לא איזה בק-דור כדי שמדינה עוינת תשתמש בזה. אלה קודם כול הדברים הראשונים, להביא לאמריקאים מה מפריע להם, ובאמת נראה לי שהכול פתיר, אין פה איזה משבר עמוק או משהו שאי אפשר לגשר עליו.
נקודה נוספת, בניית מנגנון בירוקרטי מהיר לקבלת אישור שימוש בחומרה מתקדמת, וזו נקודה מאוד קריטית. בהינתן ואנחנו לא מצליחים לשנות את זה, האמריקאים אומרים, אוקיי, כל GPU שנכנס עכשיו לארץ, אנחנו רוצים לדעת מה קורה איתו, זה אומר שיהיה גורם בארץ, לשכת מסחר או גופים נוספים.
אורי אליאבייב
¶
זה חייב לעבוד חלק. דניאל אמר מקודם, בירוקרטיה, אם האמריקאים מגבילים אותנו, אנחנו צריכים לעשות את המאמץ מהצד שלנו שיזמים, חוקרים לא יצטרכו לחכות חצי שנה כדי שאנחנו נזוז ונכין את הטפסים ונדבר עם הגורם האמריקאי. חייבים להבין איך התהליך הזה פשוט מתקיים בזמן אפס. אתה רוצה בקשה? יש טפסים, יש את הגורם האמריקאי, אתה מקבל וזהו. זה מאוד קריטי.
נקודה נוספת, הפעלת לחץ על ענקיות הטכנולוגיה הפועלות בישראל, זו נקודה מאוד קריטית. האמריקאים משתמשים בנו ובחברות שיש כאן כדי לייצר את ההובלה שהם רוצים לשמר. איך זה ייתכן? אנחנו מספיק טובים בשביל לפתח אבל לא מספיק טובים בשביל לקנות את זה בחזרה אלינו? ויש פה הרבה ענקיות טכנולוגיה שיכולות להפעיל את הלחץ הזה. לבוא עם המסר המאוד פשוט, אנחנו צריכים שישראל תהיה בטיר 1 כדי להמשיך לפתח כאן את השבבים האלה. אין לזה תקדים שבו אנחנו מפתחים משהו אבל לא יכולים לקנות אותו בעצמנו אחר כך. זה אבסורד מאוד מאוד גדול והחברות יכולות לעשות לא מעט עבור זה.
והכנת תוכנית מטה להבנת הצרכים בתחום החומרה בישראל והדרישות העתידיות. אני אתמול פרסמתי שאלה מאוד מעניינת: כמה GPU יש באמת בארץ? אנחנו אף פעם לא נדרשנו לזה. האם ה-50,000 זה הרבה, 100,000 זה מעט? אנחנו צריכים רגע להבין ולעשות את הספירה הזאת ולהבין מה אנחנו עומדים מולו. האם זה מספיק לנו לתוכניות קדימה שאנחנו רוצים, האם כבר עכשיו אנחנו קרובים לרף. היום המספר הזה לא ידוע. לא היינו צריכים, לא נדרשנו, וזה בסדר. זו נקודה באמת חשובה, וזהו, אלה ההמלצות, מאוד פרקטיות, מאוד פשוטות, צריך פשוט לעבוד בצורה מסודרת.
היו"ר אורית פרקש הכהן
¶
כן, אבל צריך לעבוד. תודה רבה. אני רוצה כן להשאיר זמן כמובן לשמוע את הממשלה כמו שאני נוהגת בוועדה הזאת, חשוב לי תמיד שהממשלה תגיב אחר כך כדי לשמוע את האיפכא מסתברא כמו שנאמר.
אני רוצה להוסיף שתי נקודות. כאשר אתה אומר שצריך לעבוד, לסדר איתם את מדיניות אבטחת המידע הישראלית, אני רוצה לספר לך שכשרת טכנולוגיה לשעבר, זה נושא ידוע שהוא מוצף ושב ועולה בין ישראל לארצות הברית כל הזמן.
מי שזוכר, ביידן הגיע לישראל ביולי 2022, לממשלת השינוי, חתם על הצהרת ירושלים. להצהרת ירושלים היה נספח טכנולוגי משמעותי בעקבות עבודה גדולה שלנו ושל המל"ל ומשרד החדשנות, שבו ארצות הברית הסכימה להעלות ברמה את שיתוף הפעולה הטכנולוגי עם ישראל. התנאי היה שתוקם קבוצת עבודה בוושינגטון, אני לא יודעת אם מישהו מכם כאן היה, היה בחור בשם ירון מהמל"ל איתי בוושינגטון, והקמנו קבוצת עבודה בשם Trusted Technologies עם האמריקאים, לדון בדיוק בנושא הזה בצורה שתשמור גם על האקוסיסטם, על ההייטק הישראלי.
מבדיקות שאני עושה, הקבוצה הזו די התמסמסה בממשלה האחרונה. ויכול להיות שאם העבודה של הקבוצה הזאת הייתה מושלמת, עם מין הסדרים שהיו מניחים את דעתם של האמריקאים, אולי היינו בטיר אחר היום, כי אבטחת המידע בציר הזה שלהם, הטכנולוגי, היא פרמטר מאוד משמעותי.
דבר שני, כשדיברת על זה שאין מידה, כאן אני רוצה להפנות להשוואה שהעלה בפניי אריאל, ואני מבינה שהיא תופיע בנייר שאתה מפרסם היום בהמשך לדברים שלך ב-INSS, ואחר כך נשים את זה גם באתר של הוועדה. יש הקבלה לעולם של תשתיות ה-AI, לכוח המחשוב, לעולם האנרגיה. כמו שבעולם האנרגיה צריך תחזית, צריך למדוד מה הקפסיטי של המשק, מה תחזיות הביקוש של האנרגיה כדי לוודא שמשק האנרגיה מתפתח לספק את כל הביקושים, הממשלה צריכה לעבור לתפיסה הזאת במחשוב ובתשתיות AI. למדוד את זה, כמו שדיבר אריאל, לייצר תחזית ארוכת טווח, לתכנן מראש כוחות מחשוב שיתאימו לתחזיות ארוכות הטווח שיוכלו לספק את זה בכוח מחשוב בכל שרשרת האספקה, ולגזור את זה משם. זה רעיון יפה שאני לא יודעת עד כמה הדגשת אותו.
היו"ר אורית פרקש הכהן
¶
מי רוצה להיות הראשון? יש לנו כאן את נציגי רשות החדשנות, כמובן זיו קציר מהתוכנית הלאומית לבינה מלאכותית, יש לנו את רע"ן בינה מלאכותית, אלעד. משרד החוץ כאן?
היו"ר אורית פרקש הכהן
¶
אנחנו צריכים את משרד החוץ היום לשמוע, מה עושה, אם אתם תעסקו בדיפלומטיה טכנולוגית כל כך חשובה. משרד הכלכלה כאן? זה נורא חשוב, כי הרבה מהדברים כאן פשוט ישפיעו על הסכמי סחר. קצת ברזלים, שבבים. אגף תקציבים פה?
היו"ר אורית פרקש הכהן
¶
בואו נתחיל, בבקשה. כל אחד, אני ממש מבקשת, רק בקצרה, יש לנו גם מליאה שנפתחת ולכן חמש-שש דקות, לא יותר. בבקשה, זיו.
זיו קציר
¶
בוקר טוב ותודה רבה. המון דברים, לא חושב שאפשר לגעת בכולם, אבל ננסה לעשות משהו שהוא רוחבי. ראשית, אני מייצג את התוכנית הלאומית לבינה מלאכותית ולא את רשות החדשנות. זאת אומרת, אוסף של שמונה גופי ממשלה: רשות החדשנות, מפא"ת, ות"ת, משרד החדשנות, מדע וטכנולוגיה, משרד האוצר, משרד המשפטים, מערך הדיגיטל, משרד הכלכלה ומשרד החוץ, זאת השמינייה והמעגל הזה ממשיך לגדול.
נתייחס לדברים שנאמרו. אתחיל בהתייחסות לתקנות שהוציא משרד הסחר האמריקאי בהקשר של ייצוא שבבים. דבר חשוב שבעיניי לא נאמר זה למה הן נוצרו, מה מטרתן, וזה מופיע בהסברים לתקנות ואני חושב שחשוב לומר. האמריקאים חוששים, ובצדק, מהיכולת של טכנולוגיות כאלה להיות טכנולוגיות דואליות. נאמרו המון דברים על אילו דברים טובים אפשר לעשות עם בינה מלאכותית ואפשר גם לייצר בהם נשק להשמדה המונית ופגיעת סייבר ופגיעות בדמוקרטיה וכולי וכולי, וזה הדבר שמטריד אותם.
מצד שני, הם עשו מאמץ מאוד גבוה לא לעצור חדשנות אפליקטיבית וכן לאפשר את כל היישומים השונים, ובאופן הזה נקבעו הספים. הם ניסו למנוע רק את מרכזי הנתונים הגדולים ביותר, את ההקמה של מרכזי הנתונים הגדולים ביותר בעולם, את אלה אמרו, אנחנו רוצים לפקח עליהם, ומרכזי נתונים מהדרגים היותר נמוכים, הרשו להם בכוונת מכוון להתקיים בכל המדינות.
הסף הזה שנקבע של 50,000 מאיצים מהדור החדש, אגב, מאיצים מדורות קודמים הם פטורים. ויש המון מי שעושה שימוש במאיצים מדורות קודמים, הם פטורים. מאיצים מהדור החדש בהיקף של 50,000 מעבדים לשנה למדינה כמו ישראל זה בערך פי 10 ממה שישראל צורכת בשנה, פחות או יותר, אולי פי שמונה, זו השכונה.
להשוואה, 50,000 מאיצים מהדור הזה, כדי לאמן את GPT-4 נדרשו בערך 15,000. זאת אומרת, מדובר פה בהיקף חומרה גדול ומספק והם גם כותבים בתקנות שלהם שהמספרים האלה בתוקף עד 2027 ויש מנגנון עדכון שלהם. שוב, הם מחפשים את נקודת שיווי המשקל בין למנוע זליגה של טכנולוגיות שיכולות להיות בעלות סכנה ביטחונית אמיתית לבין זה שרוצים לאפשר התפתחות וטכנולוגיה.
במישור של מחקר ופיתוח, בטח בשנתיים-שלוש הקרובות, הדבר הזה לא מהווה איום על מחקר ופיתוח בישראל. זה כן חשוב מאוד, הדברים שנאמרו על הצורך.
היו"ר אורית פרקש הכהן
¶
אתה חושב שזה בסדר גמור, זה מצוין שאנחנו בטיר 2? אני בכוונה, לא יהיה בסדר. השאלה אם אתה חושב שיש כאן בכל זאת משהו שצריך להידרש אליו.
זיו קציר
¶
אני חושב שיש פה משהו שצריך להידרש אליו. אבל אני מקפיד, גם בחיי הפרטיים וגם המקצועיים וגם פה לשים דגש על דברים שהם יותר מטרידים ולהפריד אותם מהדברים שהם פחות מטרידים. שלשום בבוקר עלה חשש גדול גם אצלנו, עשינו אקט מאוד משמעותי של למידה, שמא עכשיו ההייטק הישראלי הולך לעצור בחריקת בלמים בגלל התקנות האלה, והדבר הזה לא הולך לקרות, זה חשוב לומר את זה.
הדבר השני שהוא מטריד מאוד הוא לאיזו קבוצת מדינות אנחנו משתייכים, זה חשוב. ונדרשת פה, כפי שנאמר, עבודה משמעותית שהתגייסו אליה, אני אתן למשרד החוץ ולמל"ל להוסיף. אבל בסופו של דבר יש פה עבודה שצריכה לקרות כדי להעביר אותנו מקטגוריה לקטגוריה. היא לא קשורה דווקא לבינה מלאכותית, היא קשורה לטכנולוגיות נוספות שהן טכנולוגיות בפיקוח בארצות הברית וזה משהו שצריך לעשות אותו וההתארגנות על זה היא עבודה קשה אל מול הממשל החדש בארצות הברית. זו התייחסות לנושא התקנות החדשות.
אני רוצה להגיד שני דברים לגבי ההערות החכמות מאוד שאמר דניאל שרייבר. הוא חילק את התעשייה בהקשר לבינה מלאכותית לכל מיני ומיני קבוצות, החל ממי שמייצר את הצ'יפים ועד מי שמייצר את ה-Foundation Models ומי שעושה דברים בדומה ל-Lemonade. באמת, גם אנחנו לא חושבים שבישראל תקום ה-OpenAI הבאה או המיקרוסופט הבאה או הגוגל הבאה. בהסתכלות מפוכחת על המציאות, זה לא הפורטה של הכלכלה הישראלית, של האקוסיסטם הישראלי, כנראה שאנחנו עוד לא שם, לא יודע אם זה מתאים למי שאנחנו.
זה לא מנע מאיתנו בעשור האחרון להגדיל מאוד את תעשיית ההייטק שלנו, להיות האב הייטק ענק ומרכזי בעולם, וזה לא צריך למנוע מאיתנו לעשות את זה בעתיד. הדגש שלנו, בדומה למה שדניאל אמר, צריך להיות על אותם חדי קרן, חברות של מיליארד דולר בשווי, ופה מצבנו הוא בעמדת זינוק מצוינת. יש בישראל כ-2,200-2,000 חברות, Lemonade ביניהן, עוסקות באותם דברים שהוא אמר: פארמה, בריאות דיגיטלית, חקלאות, אנרגיה, גם פינטק, ביטוח, ליגלטק וכולי וכולי, ביניהן כמה וכמה חדי קרן, אנחנו עושים מאמץ מאוד מאוד גדול לעזור להן להצליח. אלה הדברים שדניאל אמר ואני מסכים איתם.
נקודה אחרונה, אני חושב שצריך להתייחס רגע לשאלה מהו היקף המחשוב הנדרש בישראל. תשתיות מחשוב, יחס העלות-תועלת שלהן, מה שמכנים Hockey Stick, ככל שאתה רוצה להיות מדורג יותר גבוה במדרג של מרכז הנתונים, באיזשהו שלב המחיר מתחיל להיות אקספוננציאלית. יש מעט מאוד חברות, ביניהן מטא שנמנתה פה, גוגל וכולי שצריכות את הפלטפורמות המאוד מאוד מאוד גדולות. שוב אומר, GPT-4, מודל מתקדם ביותר, אומן על 15,000 לוחות ולא על 300,000 לוחות, בואו רגע נשים את עצמנו באיזשהו מקום של זה.
לעומת זאת, יחס העלות מזנק, כפי שראיתם. התשתית הישראלית שתקום, אומנם יותר מאוחר ממה שרצינו, עבדנו מאוד קשה ולא הצלחנו להגיע לקו הגמר בזמן שרצינו, מתוכננת להקיף כ-2,000 לוחות. אין הבדל בין H200 ל-H100, זה אותו צ'יפ, ככל הנראה תוקם על בורדים של B, שהם הדור היותר מתקדם, ואין מגבלה על הייצוא של הדבר הזה, זה יושב עמוק, עמוק, עמוק מתחת למגבלה שהטילה התקנה החדשה. ואנחנו מעולם לא ניסינו להקים את הדאטה סנטר הכי גדול בעולם. פשוט היחס עלות-תועלת של זה הוא לא הגיוני.
היו"ר אורית פרקש הכהן
¶
כלומר, אתה טוען שהביקורת שנשמעה כאן לגבי הרמה הטכנולוגית של מחשב העל כרגע, לטווח ארוך, אתה דוחה אותה, אתה חושב שזה מצוין לטווח ארוך. לדברים טכנולוגיים גבוהים או בדירוג שדיבר עליו אריאל שכרגע מדובר על פרמטרים שיביאו אותנו לרמה טכנולוגית עם מאפיינים מספר 35. אתה לא בונה את זה לשנתיים, נכון? אתה דוחה את הטענה הזו.
זיו קציר
¶
אני חושב שישראל צריכה מחשבים שישבו בטופ 50 ולא בטופ 10. כשעוברים מטופ 50 לטופ 10 מוסיפים אפס על המחיר ולא מקבלים כל כך הרבה.
היו"ר אורית פרקש הכהן
¶
אבל השאלה אם ארבעה מיליארד שקלים לא שווים את זה. כשאתה מדבר על תקציב מדינה, דעתי היא שונה. אני חושבת שהדבר הזה יכול להאיץ את הכול.
זיו קציר
¶
אני חושב, והבעתי את העמדה הזאת גם בוועדה הזאת במושבים קודמים שלה, שלישראל לא נכון לנסות למקם את מחשב העל שלה בטופ 10 העולמי. יחס העלות-תועלת לא מתאים למי שאנחנו ואיך שאנחנו. אני גם חייב להגיד שככל שעולים בכוח המחשוב, כמות המשתמשים שנדרשת לכוח המחשוב ההולך וגדל, הולכת ויורדת. כאשר אנחנו מכוונים לאותן אלפי חברות, כפי שדיבר דניאל שרייבר, אנחנו לא צריכים את הטופ 10, אנחנו צריכים את הטופ 50 ולזה אנחנו - - -
היו"ר אורית פרקש הכהן
¶
בסדר, תודה רבה.
נעבור לאלעד. הסיפור הזה והצו, אני מבינה שאתם גם לומדים את הדברים, אבל יש לו משמעות ביטחונית לא קטנה. כלומר, תלות טכנולוגית, עצמאות טכנולוגית, מעמד טכנולוגי, באיזה מעמד אנחנו כבני ברית של אמריקה, טכנולוגיים. זה ביטחון, זה ביטחון פר אקסלנס ברמה הכי גבוהה של העליונות הצבאית של ישראל. בוא נשמע מה יש לך להגיד על זה.
אלעד דביר
¶
כמו שאמרת, אנחנו באמת לומדים את הנושא. האמת שאני שמח שאורי פה גם עשה איזשהו סדר ראשוני בנושא הזה. אמרתי שאנחנו נביא אותו גם לתוך המשרד, נעשה איזשהו שיח משותף. צריך להגיד, בטווח הקצר מה שאנחנו עושים, מה שתכננו לרכוש ב-2027-2026 להקדים ולרכוש בזמן הקרוב.
אלעד דביר
¶
נכון, בגלל הסיפור הזה יש עוד 120 יום עד שהדבר הזה יכנס לתוקף. אין ספק שיש משמעויות אסטרטגיות למשרד הביטחון מעצם זה שנידרש לתת הסברים לכל דבר שאנחנו עושים עם השבבים האלה. צריך להגיד, הסיפור של המגבלה של 100,000, 300,000, 50,000, עוד פעם, אנחנו לא מגרדים את הכמויות האלה לא במשרד הביטחון ולא במדינה, זה פחות מטריד.
אני גם לא יודע להגיד מה המשמעות של הדבר הזה בכלל על דאטה סנטרים חיצוניים, ענניים, שמשמשים לא רק אותנו, אבל ממוקמים בישראל. אני אומר, רב הנסתר על הגלוי. אני אגיד מה אנחנו כן עושים, התחלנו לעשות כבר בשנה האחרונה. כחלק משיח אסטרטגי שאנחנו עושים עם שותפים מארצות הברית ועם עוד 58 מדינות על הצהרה פוליטית לשימוש אחראי ב-AI שאנחנו חתמנו עליה בסוף שנה שעברה. האמריקאים אגב מאוד שמחו.
אלעד דביר
¶
משרד הביטחון, הרמטכ"ל, ובסוף כל הדרגים, גם המל"ל, כולם חתמו על ההצהרה. עוד פעם, עם עוד הרבה מדינות אחרות, like minded פחות או יותר, כמונו. אגב, אנחנו הבאנו לזה ששינינו גם, זו בסוף הצהרה של שני עמודים עם תשעה סעיפים על למנוע הטיות בשימוש בחומרים ושיהיה בן אדם בלופ וכל הסיפור הזה.
אלעד דביר
¶
נכון. זה לא הספיק להשפיע, זה כן הניח איזושהי תשתית מספיק טובה בשביל שיח שלנו עם האמריקאים, לראות מה עושים בעולמות הביטחוניים.
אלעד דביר
¶
וננצל את 120 הימים האלה לעשות את השיח על הנושא הזה, גם על בסיס ההצהרה הזאת. עוד פעם, צריך להגיד ששינינו סעיפים משמעותיים בהצהרה והאמריקאים שמחו על שינוי הסעיפים כי בסוף אנחנו דומים לאמריקאים בהקשר הזה. גם אמריקאים לא רוצים רגולציה מאוד מגבילה על שימוש ב-AI בהקשרים צבאיים, אנחנו מאוד דומים בהקשר הזה.
היו"ר אורית פרקש הכהן
¶
כל המגבלות וכל הדברים האלה, הם חלים על מערכת הביטחון? הצו הזה חי בעולמות האזרחיים, לא? אורי, אריאל, הצו הזה חי בעולמות האזרחיים או שהמגבלה על התשתית, על השבבים, היא גלובלית, היא לא עושה שום הבחנה?
אלעד דביר
¶
אני חושב שעל אחת כמה וכמה ישפיע על הגופים הביטחוניים. זה הנושא הרגיש ובין השורות, האמריקאים אומרים שזה - - -
אלעד דביר
¶
ברור לי שרוב ההגבלות יהיו על התעשייה הביטחונית, בסדר? זה האזור היותר מטריד את האמריקאים. ופה אני אומר, אנחנו צריכים להאיץ את השיח שכבר התחלנו לעשות עם קבוצות עבודה עם מדינות אחרות על הסיפור הזה, ואני מקווה שהדבר הזה באמת יאפשר לנו אולי לעבור לטיר אחד, עוד פעם, לפחות בהיבטי ביטחון, או להחריג אותנו בהיבטי ביטחון, לראות איך אנחנו מנווטים את הספינה בהקשר הזה.
היו"ר אורית פרקש הכהן
¶
כי אם זה הולך לאיזשהו כיוון, זה מתרחקים מעצמאות טכנולוגית צבאית, הצו הזה מקשה עוד יותר.
אלעד דביר
¶
נכון, וזה קיים אגב גם באזורי החלל ובאזורי הקוונטים. זאת אומרת, גם שם יש הגבלות מאוד חזקות של אמריקאים לשיתוף פעולה ביטחוני. זה רק עניין של זמן בינתיים עד שזה יגיע לבינה המלאכותית, היה ברור שזה יגיע. ואני אומר, אנחנו גם נצטרך לעשות תהליכי אסטרטגיה ורגולציה בתוך צה"ל בשביל לעמוד במסמך ההבנות הזה, זה חלק מהסיפור.
היו"ר אורית פרקש הכהן
¶
אבל בחלל ובקוונטי, ממה שאני מבינה, לא היה צו דומה לזה. אולי היו מגבלות בהתנהלות, אבל - - -
היו"ר אורית פרקש הכהן
¶
איך נאמר פה? – אם אפשר לקנות מהם F-35, איך הגענו למצב הזה? בסדר, תודה רבה, נשמח שתעדכן.
המל"ל, בבקשה. תודה, יואב. זו פעם ראשונה שלך כאן?
יואב זקס
¶
הייתי בכל הדיונים שערכת עד היום בנושא. יש לי שתי הערות כלליות ושתי הערות פרקטיות. ההערה הכללית ראשונה היא שהציבור שנמצא כאן, מי שצופה בדיון ומי שיקרא עליו אחר כך מן הסתם חי את העולם הזה של בינה מלאכותית, אבל רובנו עדיין לא. התרומה הענקית של בינה מלאכותית היא ברורה והיא גדולה, לנו ולרוב האנשים עדיין לא וזה עוד יתפתח וינכיח את עצמו. לנו יש אתגר מאוד גדול במערכת החינוך, לוודא שהדור הבא שעכשיו חלק היה מיוצג פה קודם, יהיה מאוד מאוד בתוך התמונה הזאת.
ההערה הכללית שנייה היא שכדאי גם קונספטואלית להבין שהעולם היום הוא לא עולם של מדינות, אלא יותר עולם של ארגונים כלכליים גדולים מאוד. מדינות הן לא השחקן הראשי פה, לא תמיד הן השחקן הראשי פה. יש להן תפקיד חשוב, אבל מדינת ישראל לא יכולה להחליט שהיא רוצה להקים את Nvidia הבאה, לא מדינה מחליטה דבר כזה. מדינה יכולה לייצר תנאים, מדינה יכולה לעודד את זה, אבל זה נמצא במישור אחר של פיתוח וטוב שכך, אם לא יהיה ככה, לא יהיה.
עכשיו שתי הערות פרקטיות. הערה פרקטית ראשונה, אנחנו, המל"ל מגבשים תמונה שלמה של הנושא הזה לקראת הצגתו לראש הממשלה. ההצגה תהיה במועד הקרוב האפשרי, תהליך ההכנה, אני מוביל אותו.
יואב זקס
¶
תמונה כוללת של בינה מלאכותית במדינת ישראל, איך אנחנו רואים את זה קדימה, מה אנחנו צופים שיקרה, מה אנחנו רוצים, מה אנחנו ממליצים שיקרה. בסופו של דבר, דרג מקצועי ממליץ ודרג נבחר מחליט. ולאור מה ששמעתי פה, אני מזמין את היושב משמאלי ואת INSS שיש לי הערכה רבה אליו, להזמין אותי אליו לדיון הכנה לקראת, אני מציע שזה יהיה בשבועות הקרובים.
יואב זקס
¶
אני רוצה לחדד. כדי לעזור לנו לגבש המלצות פרקטיות שנוכל להעביר אותן ולהציג אותן באותו אירוע שאני בהערה הקודמת עדכנתי לגביו.
ולסיום, רק הערה אחת קטנה. אני מבדיל בכל זאת בין העולם הצבאי, העולם המבצעי לעולם האזרחי. העולם הצבאי מתנהל אחרת, אנחנו לא ניגע בדברים מסווגים באותו דיון, אנחנו עושים את ההפרדה ובעולמות המבצעיים יש לנו את הכלים שלנו ולא נדון בהם בפורום כאן. תודה רבה.
היו"ר אורית פרקש הכהן
¶
שאלה לי אליך. מה עלה בגורלו של צוות ה-Trusted Technologies שהותנע בוושינגטון בתקופתי כשרה?
היו"ר אורית פרקש הכהן
¶
נכון, אני הייתי שם, אבל רק אחת שנקראת Trusted Technologies שאתם הייתם שם בהובלה משמעותית.
יואב זקס
¶
חמש קבוצות עבודה, אני מרכז ארבע מהן ואת הקבוצה הספציפית הזו לא, אבל אני מכיר את התמונה הכוללת. הקבוצה קיימת, אנחנו עכשיו נערכים להעברת מקל בין ממשלים. כלומר, אנחנו עדיין לא יודעים שהממשל הנכנס ישמר את אותו הסכם שאת ציטטת קודם ואנחנו נערכים, אנחנו רוצים שהוא ישומר ונוכל להמשיך להפעיל את הקבוצה. הקבוצה קיימת, הייתה פעילה עד פחות או יותר מועד הבחירות בארצות הברית, ומאז אנחנו מנסים לשמר אותה ולהעביר אותה כמו שהיא לממשל הזה.
היו"ר אורית פרקש הכהן
¶
אני הייתי מציעה לך לנצל את 120 הימים האלה לא רק כדי לשמר, אלא פשוט לבצע התקדמות בקריטריון הזה שכל כך חשוב לאמריקאים, של נושא זליגת המידע ואבטחת המידע כדי לנסות שזה יהיה חלק מהתוכנית והחזון לעלות טיר.
היו"ר אורית פרקש הכהן
¶
אני הבנתי שלא הייתה כמעט התקדמות בתקופה הזו, לכן אני אשמח גם שתיכנס לזה. נראה לי שהקבוצה הזו הופכת להיות יותר חשובה מקודם.
יואב זקס
¶
כמו שאת מכירה מכהונתך כשרה, בקשרים עם האמריקאים אנחנו כל הזמן, כתפיסת עולם, נמצאים צעד לפני. זאת אומרת, אנחנו מגישים את ההצעה ומחכים שהם יגיבו. אנחנו כרגע עם ניירות עבודה על השולחן בכל הקבוצות, כולל בזאת.
איריס עמבור
¶
שלום לכולם, תודה. א', אני אגיד הערה אחת כללית, אני חושבת שזה נושא סופר חשוב ואנחנו אולי קצת נכנסנו לנושא של הצו והתקנות החדשות של ממשל ביידן. אני חושבת שבכלל, ככלים - - -
איריס עמבור
¶
שלום, שמי איריס עמבור, אני מנהלת תיאום בלשכת מנכ"ל משרד החוץ. זה נושא סופר חשוב, אנחנו קצת אולי נגענו בעיקר בנושא של הצו כי זה אירוע שקרה ממש עכשיו והוא סופר חשוב ומשפיע, אבל גם חשוב לראות איך, אני חושבת שאולי זה דיון אחר, אני לא יודעת אם זו הוועדה, אבל איך אנחנו כממשלה משתמשים בכלים של AI כמשרדי ממשלה ואיך אנחנו מייעלים את העבודה שלנו באמצעות השימוש. וזה, אני חושבת, דיברו פה גם האנשים החיצוניים שדיברו פה, אבל זה משהו שאולי חשוב גם להקדיש לו חשיבה, שלא לומר תקציב, במיוחד אם דיברנו על הייעול של זה.
לגבי העבודה של משרד החוץ, שוב, אנחנו לא המשרד הטכנולוגי, אנחנו לא עוסקים בהקמות ובשבבים וכאלה דברים, יחד עם זאת, אנחנו כן מתעסקים, במשרד שלנו AI נוגע בכמה נושאים. אחד זה בנושאים אסטרטגיים, במשפטים רגולטוריים, כשאני מדברת יותר על איך אנחנו מדברים מול מדינות אחרות, אמנות בינלאומיות, כל הסכנות שיש ב-AI, לא דיברנו על זה, אבל יש פה באמת גם אתגרים של נושאי תודעה והשפעה, אני חושבת שאנחנו עוד לא נגענו בקצה של זה, וכמובן בהיבטים הכלכליים. בכל הנושאים האלה יש לנו נושאי תפקידים ובהחלט זה נושא שעל שולחננו מדי תוכנית עבודה וגם כמובן בנושאים הפנימיים של הקמת יחידת AI ושימוש בכלים של בינה מלאכותית.
בנושא של הצו של ביידן יש שיח מול האמריקאים וכמובן שיח בין משרדי שאולי יואב לא דיבר עליו, אבל כן קיימת איזושהי קבוצת עבודה להבנתי שמטפלת בנושא. אבל כמובן זה רק בהתחלה ועוד אין שום מסקנות שכרגע אנחנו יכולים להציג.
היו"ר אורית פרקש הכהן
¶
אני חושבת, בכל הכבוד, שצריך להיות כאן צוות מכמה וכמה משרדים, כולל מערכת הביטחון. לחשוב ביחד, לא בהכרח לפעול.
איריס עמבור
¶
לא, אני אומרת, יש גם פנימית אצלנו שמרכז את כל ההיבטים שמקודם דיברתי עליהם ויש צוות בין-משרדי שמובל על ידי המל"ל, משרד האוצר והכלכלה ורשות החדשנות.
היו"ר אורית פרקש הכהן
¶
זה המל"ל מוביל. כך חזרנו אליך, יואב. אנחנו מביטים בך וקוראים מפה שתיקחו את הנושא הזה ברצינות ותנצלו את הימים הקרובים, ובאמת הרעיון שלך לשבת עם INSS, אני מברכת עליו.
משרד הכלכלה, מי הנציגה? נעים מאוד, תציגי את עצמך.
ניצן קרסנטי
¶
ניצן קרסנטי, מנהלת אגף בכיר חדשנות וצמיחה. אני פחות בקיאה פה מרוב האנשים, אני אגיד שאנחנו עובדים בשתי חזיתות. אחת, באמת דרך הנספחים הכלכליים אל מול ארצות הברית, אני מניחה שיש שותפים גם עם המל"ל וגם משרד החוץ. בדקתי איתם, הם מכירים, הם מעורבים ויקחו את זה. הדבר השני, אנחנו הקמנו את מנהלת הצמיחה בשנה שעברה. מנהלת הצמיחה מסתכלת על ישראל ורואה איפה היתרונות היחסיים שלה והקימה קלאסטרים תחרותיים בתחומים שדניאל דיבר עליהם לפני, הרבה מהם, בין אם זה בעולמות האגרו, ההלת', סייבר, פינטק וכדומה. עכשיו סיימנו קול קורא מאוד גדול של תשתיות פיזיות בתחומים האלה ואנחנו נצא השנה בקול קורא חדש של תשתיות AI לפי סוגי הקלאסטרים.
אנחנו נשמח להתייעץ פה עם המומחים שדיברו לפני שנוציא את הקול הקורא, כמובן עם השותפים הממשלתיים שלנו בנושא. אנחנו לא מתיימרים להיות המשרד שמוביל את תחום ה-AI, אבל לגעת בדאטה ו-AI בתחומי הקלאסטרים ולתת לשטח תמריצים לעשות את זה. אנחנו נשמח לקחת את זה לפגישות פולו-אפ ולראות איך מדייקים את היתרונות.
היו"ר אורית פרקש הכהן
¶
תודה. אני חושבת שאם הדיון הזה גם יסב את תשומת לב למה שקורה, זה גם מאוד מאוד חשוב. יוסף גדליהו ממשרד החדשנות, ביקשת שתי דקות.
יוסף גדליהו
¶
בוקר טוב, תודה. בנוגע לרגולציית השבבים, לתקנות החדשות שפורסמו, אני אגיד שגם במשרד, בהתאם לדרישות השרה, אנחנו קודם כול מנסים, אנחנו פועלים בשלושה מישורים מרכזיים ביחד עם השותפים בממשלה. קודם כול, מיפוי המשמעויות הפרקטיות של התקנות שפורסמו. מדובר במסמך מאוד מאוד בירוקרטי, מעל 180 עמודים. אנחנו עוד לומדים אותו, אנחנו רוצים להבין איפה זה עומד למול הצריכה בפועל בישראל, מה המשמעויות של ההגבלות האלה למול מה שנרכש עד היום וצפוי להירכש בשנים הקרובות. וכמו תמיד, אנחנו מזמינים את המומחים שנמצאים כאן ובחוץ לשיח בנושא הזה. אני יכול להגיד שקראתי את כל מה שפרסמת, אורי, ואנחנו לומדים את זה ואנחנו גם נעשה שיחות בהמשך.
המישור השני, שאני אגיד שכבר ביממה האחרונה יצא לי לעשות שיחות עם שותפים בממשלה שאנחנו עובדים איתם בהקשרים של שיתוף פעולה בינלאומי, כולם הכירו את זה ביממה האחרונה פחות או יותר, חלקם שבוע אחורה, וכבר התחיל איזשהו שיח שמתקיים בוושינגטון בנושא הזה. והמטרה היא כן לנסות לפעול כדי להעביר את מדינת ישראל מהמדינות שכרגע נמצאות בטיר 2 לטיר המוחרג לגמרי מהמגבלות, ויש כוונה להכליל את הנושא הזה במסגרת השיחות עם הממשל הנכנס.
היו"ר אורית פרקש הכהן
¶
תודה רבה. טל שחף ביקש לדבר. לא נמצא. דובר אחרון, אני מצטערת, כי אנחנו חייבים להתכנס. סהר מיליס, מנכ"ל חברת MarkeTeam.ai, מרצה באוניברסיטת רייכמן. אני מקווה שזה רק בנושא הדיון.
סהר מיליס
¶
תודה רבה. נכון, אני מסיים את הקורס שלי עכשיו ברייכמן ואני מסיים אותו בדרך כלל עם משפט מאוד כואב: יש תשע מדינות עם נשק אטומי, תהיה מדינה אחת עם AGI. ודבר נוסף, הבעיה שלנו היא לא רק תשתיות מחשוב, יכולות מחשוב, אלא גם בעיה של הון אנושי. ההון האנושי הכי טוב היום במדינת ישראל עובד בשביל החברות הגדולות. ולראיה, זיו, מה שהצגת, הנתונים לא נכונים. זאת אומרת, לא לקחו 15,000 GPUs כדי לאמן את GPT-4, ואני יכול להראות לך חישובים יותר מאוחר.
אני יודע לבנות דברים מהסגנון הזה, אני מלמד בערך 300-200 סטודנטים בשנה לעשות את הדברים האלה. הכספים שנעים וההצעות שאנחנו מקבלים, אני, עמיתיי, חבריי, הם Mind-Boggling, הם רחוקים להיות ממה שחברות ישראליות יכולות לשלם להון אנושי, ובגלל זה גם חשוב שנעזור לאוניברסיטאות להכשיר הון אנושי טוב יותר. לדוגמה, יותר תקציבים למאסטרנטים, ל-PhDs וכדומה, ולא רק תקציבים לחוקרים, אלא תקציבים לאלמנטים פרקטיים. לדוגמה, אין הרבה אנשים בארץ שיודעים לנהל קלאסטר של 15,000 GPUs, הם פחות מ-100 למעשה, כמות האנשים האלו.
דבר אחרון זה כמויות הדאטה. לא משנה אם יהיו לנו גם 350,000 GPUs לכל חברה בישראל, אין מספיק דאטה כזה כדי לעכל אותו, דניאל בטח מכיר את זה. אין מספיק דאטה כדי לעבוד עליו בכלל וזה מה שגם הממשלה צריכה להסתכל קדימה וליצור את האפשרויות האלה.
ודבר אחרון, בואו נדבר על איכות החיים של כולנו ושל הילדים שלנו. החברה שלי מנסה לפטור את כולנו מעבודה, להפסיק לעבוד. בתקווה זה יקרה עוד 30, 40, 50 שנה בקצב שהממשל האמריקאי מתקדם בו. האם ישראל תפסיק לעבוד או תפסיק לעבוד בשביל הממשל האמריקאי? אנחנו לא יודעים. אבל אני אשמח אם כולנו נתחיל עידן חדש שנראה קצת אחרת. תודה רבה.
היו"ר אורית פרקש הכהן
¶
תודה. זה דיון אחר, יהיה דיון המשך דרך אגב בנושא AI ותעסוקה, דיון מרתק, ואנחנו מזמינים אותך אליו.
טל שחף, יצאת ונכנסת, אם אתה רוצה בכל זאת, שתי דקות, אנחנו לפני סיכום שלי. בבקשה.
טל שחף
¶
בעניין האירוע עם השבבים האמריקאי, זה מעורר אותך לחשוב על מאבק הכוחות בין הביג-טק, חברות הביג-טק לבין הממשלים. הממשל האמריקאי ניצח והראה לכולם מי יותר חזק אחרי שחשבנו שהחברות יותר חזקות. החברה העיקרית שמדובר פה היא Nvidia. Nvidia היא אנומליה בשוק העולמי של 85%, אולי 90% מהשוק. ולכן יוצא שחברה פרטית כפופה כרגע לממשל אמריקאי שמחזיק אותה ביד קשה.
אבל צריך לזכור מצד שני שיש פה אנומליה גם בתחום הישראלי. Nvidia נמצאת בישראל כי היא קנתה פה את חברת מלאנוקס הישראלית, היא לא נמצאת פה סתם. היא מחזיקה פה אלפי עובדים שהם חלק משמעותי בפיתוח היכולות הכל כך מתקדמות שהאמריקאים רוצים.
אינטל, עוד שם שכבר מזמן לא דיברנו עליו אולי, אבל שם שבהחלט משמעותי בעולמות השבבים וגם בתחומי ה-AI, למרות שהיא לא מצליחה כמו Nvidia כיום. היא קנתה פה את הבאנה לאבס, היכולות שלה בתחום הזה הן של חברה ישראלית גם.
כלומר, ישראל נמצאת במצב שהיא מספקת את היכולות, את הטאלנטים, את הטכנולוגיות הכי מתקדמות של החברות האלה, ומצד שני, יוצא שהאמריקאים אומרים, אבל אתם לא תוכלו לקנות את מה שאתם פיתחתם. אני חושב שהממשלה במגעים שלה מול האמריקאים צריכה לשים את זה על השולחן.
בעניין AI אני שומע כל הזמן על דו"חות ועל המלצות ועל מה צריך לעשות. והיו ועדות, הייתה ועדה בין ישראל לפני כמה שנים שכבר שכחנו ממנה. הייתה עליה הרבה ביקורת, בסך הכול היא דיברה על תקציב הרבה יותר נמוך ממה שמדובר כרגע והקדימה לראות את מה שהיום מדברים עליו, ואז היה פחות קשה לראות. הממשלה אפילו לא דנה בדו"ח הזה. חלק מתוכו הפך להיות ועדה אחרת שהמליצה על השקעות בתשתית וזה מה שהתקבל.
אנחנו עכשיו שומעים על עוד המלצות, אנחנו שומעים שמשרד ראש הממשלה עומד לקחת לעצמו את התחום הזה ולנהל אותו. לא ברור איך זה יקרה, מה יקרה עם העבודה החשובה שעושים משרדים אחרים בממשלה. בעיקר נראה שבישראל יש חוסר מחשבה מרכזת מה באמת צריך לעשות.
מה שאני קורא לכולנו זה ללמוד את, הייתי קורא לזה המודל הבריטי, או אולי מה עושה ממשלת אנגליה כדי להפוך את עצמה להיות המעצמה מספר 2 בתחום הזה. אין שום ספק שארצות הברית היא הראשונה, אבל אנגליה משקיעה המון משאבים באיך להיות מספר 2. יצאו עכשיו ממש בימים אלה המון תוכניות, כולל של ראש הממשלה הבריטי החדש, שיש לו המון מה להגיד בתחום הזה.
צריך לזכור, ארצות הברית נהייתה מספר 1 לא כי הממשל האמריקאי השקיע ב-AI, זה קרה כי יש שם את הטאלנטים, באמת הטופ של העולם שצומחים בכל האוניברסיטאות הכי טובות בעולם בארצות הברית. טאלנטים יש גם לנו. זה קרה כי יש שם את היזמות המאוד יוצאת דופן של סיליקון ואלי, יזמות גם יש לנו, וזה קרה עם תקציבים פרטיים. התקציבים הפרטיים האלה, מיליארדים שהושקעו בחברות האלה, יכולים להגיע גם לארץ.
כמי שעוקב אחרי התחום הזה כבר כמה וכמה שנים - - -
טל שחף
¶
אני אדבר עוד דקה אחת, במטותא. אני מדבר עם משקיעים גדולים אמריקאים, קרנות הון סיכון הכי גדולות שהיום מדברות על זה שאין שום סיבה לצפות שסטארטאפ ישראלי יגמור באקזיט של 200 מיליון, 300 מיליון, מה שאצלנו נחשב לניצחון וגם להגיע למצב של - - -, גם מה שהיה בשנים האחרונות, ההילה גדולה של להיות יוניקורן, חברה של מיליארד דולר, גם זה לא מספיק. משקיעים אמריקאים מצפים מחברות ישראליות להגיע ל-20 מיליארד דולר ול-30 מיליארד דולר ואולי גם יותר מזה לחברה.
כלומר, יש ביכולתנו להיות בשורה הראשונה של חברות ה-AI הגדולות בעולם ואת זה אנחנו עלולים לפספס אם אנחנו נחשוב בקטן ונסתפק בלהשקיע בתשתית של מחשב על. צריך לנסות להוביל את המשק הישראלי, לפתח את היכולות האמיתיות שלו ולכוון את הטאלנטים שלו להתעסק בתחום ה-AI.
יש נושא אחד שנקרא AGI, שזה באמת מה שאליו שואפות כל החברות הכי גדולות, זה המרוץ האמיתי שקורה בעולם, כולל הסינים שרצים קדימה, שועטים להגיע ל-AGI. אני לא יודע למה ישראל לא שם, היא צריכה להיות שם.
ניל נמיר
¶
סליחה, אפשר שאלה הכי קטנה? הבנתי מאריאל שירדנו לטיר 2 בגלל נושא של אמון טכנולוגי. האם אתה יכול לפרט מהו בדיוק האמון הטכנולוגי הזה שיעלה אותנו חזרה לטיר 1?
אריאל סובלמן
¶
זה לא מה שאמרתי. אמרתי גם בין השאר, זה אחד השיקולים. ניסיתי להבהיר שזה לא רק שיקול כלכלי שמריץ את זה. זאת אומרת, זו לא רק העוצמה הכלכלית שהכתיבה לאיזה דרג תשתייך מדינה, אלא יש מרכיבים נוספים, אחד מהם הוא בוודאות נושא האמון הטכנולוגי ודובר פה על הוועדה של Trusted Technologies, להגיע להסכמה, כי בכל ערוץ אפשרי בשנים האחרונות אנחנו מודעים לחששות אמריקניים למה יקרה עם טכנולוגיות בישראל, לאן הן יכולות לזלוג. צריך לראות את זה בתור איזה גשטלט, צריך לראות את הכול ביחד שם.
היו"ר אורית פרקש הכהן
¶
תודה רבה. אני מבקשת לסיים. אני אומרת שהדיון היום שנועד לעסוק מחדש בממצאי דו"ח מבקר המדינה בנושא ירידות הדירוג של ישראל בתחום הבינה המלאכותית הפך לרלוונטי מתמיד. הפרסום מאתמול של הממשל האמריקאי בנושא הגבלות יצוא בשבבים בתחום הבינה המלאכותית מאותת לישראל שהיא לא בת ברית והיא לא שותפה לחזון הבינה המלאכותית והטכנולוגיות המתקדמות של ארצות הברית ברמה הגבוהה ביותר, כפי שישראל אמורה להיות שם.
על ישראל צפויות לחול מגבלות בכמות המעבדים, במודלים, בזיכרון, בתוכנות, במשקולות, בכמות מעבדים. ברמת המדינה אנחנו נמצאים בטיר B ובחלק מהקטגוריות בטיר D, והדבר הזה מסמן, וגם נאמר על ידי הממשל האמריקאי שישראל מקוטלגת כמדינה ללא אסטרטגיית ביטחון לאומי ברורה בתחום הטכנולוגי.
לפני שאני אעבור להמלצות, אני רוצה לומר שבעיניי ישראל החמיצה הזדמנות להגיע ערוכה ליום הזה. כמובן בהנעה של תוכניות לאומיות ומחשבי על ודברים אחרים, אבל לא פחות מזה ברמת הדיפלומטיה המדינית. הצהרת ירושלים שהייתה כאן על ידי הנשיא ביידן ביולי 2022 התניעה קבוצה שאני הובלתי ביחד עם המל"ל בנושא Trusted Technologies. הנושא הזה, היה ראוי שהצוות הזה יביא לפירות ולתיאום בתפיסת העולם מול האמריקאים, ואם היינו עושים את זה ולא ממסמסים את עבודת הצוות, אני חושבת שיכולנו להיות במקום אחר.
ומאחר שמדובר בסוגיה שהיא אסטרטגית, לאומית, ביטחונית וכלכלית כאחד, הוועדה קוראת מכאן לפעול בכמה היבטים. קודם כול, ישראל צריכה לנצל את 120 הימים שבהם הממשל האמריקאי בוחן את כניסת הכללים לתוקף ולבדוק איך אנחנו פועלים בכל הכוחות כדי לעלות בטיר ולהיות חלק מהציר האמריקאי בתחום הזה.
ויש כמובן מספר המלצות שהן בגדול מאגדות את מה שהוצג כאן על ידי המשתתפים. אחת, אנחנו קוראים לממשלה לקבוע יעד לאומי אסטרטגי שבו מדינת ישראל צריכה להיות בת ברית מובילה בציר האמריקאי בתחום הבינה המלאכותית עד סוף שנת 2026. כלומר, להגיע לטיר הגבוה ביותר של בנות ברית וזה תלוי בהכנת תוכניות ובעבודה.
שתיים, אנחנו קוראים באופן ספציפי, מאמצים את ההמלצה של INSS ושל אריאל סובלמן, על הממשלה להציב יעד כמותי ברור שצריך להגיע אליו ולייצב אותו ולא כל הזמן לדבר בתיאוריות של עוצמות מחשוב וכוח חישוב שיאפשר לאמן מודל חיזוי בשלושה חודשים. לשם כך, על המדינה לספק 1,290 פטה-פלופס, שווי ערך ל-304.6 TPP. העלות למימוש היעד הזה נאמדת בכ-4 מיליארד שקלים, חצי אחוז מהתל"ג, השקעה במנוע צמיחה שתחזור אלינו פי כמה וכמה בכסף, ראינו את זה בתחומים אחרים והגיע הזמן לשים את הכסף בתשתיות כאלה, ותבטיח את התחרותיות של ישראל עד 2030 ותביא לכאן הזדמנויות כלכליות עצומות. הדברים האלה תמיד מחזירים בהרבה יותר ממה ששמים.
שלוש, חוק טכנולוגיה לאומי. כן, דיברנו על זה הרבה. תוכנית לאומית טכנולוגית לביסוס וחיזוק עצמאותה הטכנולוגית של ישראל, גם עם יעדים. ארבע, הגיע הזמן לקבוע על גוף ייעודי אחד מתכלל שיעסוק וירכז, עם סמכויות ועם כלים, לפעול ולקדם מדיניות אסטרטגית ברורה.
ארבע, אני חושבת שהגיע הזמן לתת לזה סעיף מיוחד בהמלצות – לפעול מהר. אנחנו לא שם, אנחנו עובדים לאט, אנחנו מדברים עכשיו שלוש שנים על מחשב על שלדעתנו לפחות, חלוקים מול רשות החדשנות, הוא כבר מה שנקרא קצת מעט מדי מאוחר מדי מבחינת התכולה שלו. לפעול מהר כי לא רק שאנחנו לא צופים במגרש, אנחנו בכלל לא במגרש. כמו שאמרנו, תוכנית לעצמאות טכנולוגית.
חמש, מכאן אנחנו מאמצים גם את הקריאה של דניאל שרייבר ושל מייקל אייזנברג לאמץ חזון לאומי שמבוסס על בינה מלאכותית עם איזו תוכנית מאוד שאפתנית, שוב, כמותית. תוך X שנים אנחנו מקצצים עשרות אחוזים מסוימים שיקבעו, לא יודעת, 20%, מעלות השירות הציבורי במדינת ישראל, כשכל החיסכון הזה צריך לבוא מפיתוחים טכנולוגיים ובינה מלאכותית. זה יכול להיות גיים צ'יינג'ר ופשוט לכוון את כל המערכת למקומות אחרים.
שש, תוכנית ב', כמו שאורי הציע פה, איך אנחנו נערכים ליום שהצו הזה נכנס לתוקף ולא הצלחנו לשנות בו דברים משמעותיים. שבע, על מערכת הביטחון הישראלית ברמה הגבוהה ביותר לגבש אסטרטגית ביטחון לאומי שמתחשבת באתגרים הטכנולוגיים, לרבות התמודדות עם הצו הזה באופן שתואם את האתגרים שלנו.
ולאחר מכן, המלצה האחרונה. מי מכם עקב, אתמול פורסם עוד צו, צו שעוסק בתשתיות של אנרגיה, תשתיות של חוות שרתים ואנרגיה נקייה שאומר למשרדי הממשלה השונים, הביטחון, האנרגיה, להתחיל להשכיר קרקעות כדי לקדם את התשתיות האלה בארצות הברית. אני חושבת שהגיע הזמן שגם משרד האנרגיה, המל"ל וגופים אחרים ברמה הבין-משרדית יעשו את זה גם בתחומי חוות השרתים וצורכי האנרגיה.
תודה רבה על עוד דיון מרתק וחשוב, תודה לכולם.
הישיבה ננעלה בשעה 10:55.