פרוטוקול של ישיבת ועדה

הכנסת העשרים-וחמש

הכנסת



16
הוועדה לביטחון לאומי
27/02/2023


מושב ראשון



פרוטוקול מס' 7
מישיבת הוועדה לביטחון לאומי
יום שני, ו' באדר התשפ"ג (27 בפברואר 2023), שעה 9:30

הצגת מערך הסייבר

חברי הוועדה: צביקה פוגל – היו"ר
עמית הלוי

מוטי קוסקס - רמ"ח הגנת סייבר, המשרד לביטחון לאומי

דרור יפרח - רמ"ח סייבר ביטחון לאומי, המשרד לביטחון לאומי

רפ"ק קובי כהן - ר' חו' קש"ח ושותפויות, המשרד לביטחון לאומי

ליאור מרקוביץ' - מנהל אגף חירום וסייבר מגזרי, משרד התקשורת

אמיר שגיא - מתאם סייבר, משרד החוץ

ירון יונגמן - רח"ט סייבר, המטה לביטחון לאומי

גבי פורטנוי - ראש מערך הסייבר הלאומי

ליאת גורפינקל - יועצת משפטית, מערך הסייבר הלאומי

מתי מגירא - מנהל אבטחת מידע, רשות האוכלוסין

אופיר בן שלוש - מנהל אבטחת מידע, רשות האוכלוסין

רון גלמה - מנהל פורום הסייבר הישראלי, התאחדות התעשיינים

יוסי שביט - ר' יחידת הסייבר בתעשייה

טל שביב - עו"ד, יועמ"ש מנכ"ל

עינת גפני - עו"ד, משרד עו"ד גרוס מטעם מנכ"ל

איילת לוי נחום

ליאת סעדון

רינת בן מוחה, חבר תרגומים


רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי -דיוקים והשמטות



הצגת מערך הסייבר

בוקר טוב לכולם, במחוזותינו נהוג להתחיל בזמן במיוחד לאלה שכן עמדו בזמן. אז כמה מילות פתיחה למפגש הזה, ראשית, לכל מי שהספיק לשמוע אותי הבוקר ברדיו או בכל רשת אחרת, אני רוצה להבהיר בשפה שאינה משתמעת לשתי פנים, אני לא מעודד אזרחים לשרוף כפרים. אז אם מישהו הבין את זה ככה, אני מתנצל על העברית הלא ברורה שלי, לא לזה אני מתכוון. אני לא אמשיך לפרט את זה כי זה פחות רלוונטי לפה, אבל הדברים חשובים להיאמר, גם קיבלתי הערה בחוץ, אז מן הראוי שאני אבהיר את זה. אני לא מעודד אף אזרח לקחת את החוק לידיו ולשרוף כפרים.

ולעניינינו, כמו שאתם בוודאי יודעים, אני לא אגלה לכם שום דבר חדש, אנחנו מפתחים עם השנים תלות מאוד מאוד גדולה וגוברת במערכות המחשוב למיניהן. התלות הזו עלולה לגרום לזה שאנחנו נהיה שבויים, שבויים בידי מי שיפעיל או יפעל לא נכון לתוך המערכות האלה. בישראל, נקודת התורפה הזו אובחנה לפני הרבה מאוד שנים ולאורך השנים האחרונות התפתחה מערכת מאוד מאוד אמינה של מדינת ישראל שנקראת מערך הסייבר הלאומי, שעומד בראשה היום, וכיבד אותנו בנוכחותו, גבי פורטנוי, והוא גם ייתן לנו סקירה קצת על המערך הזה.

אני מזכיר שהאפשרויות השונות לפעולה נגד מדינת ישראל אל מול מערכות המחשוב יכולות לקרות במספר דרכים. זה יכול להיות לשבש מידע, זה יכול למחוק מידע, זה יכול לבוא לידי ביטוי בהפצת מידע כוזב או אפילו בגניבת מידע. כדי להגן על המערכות שלנו במדינת ישראל, הוקם מערך הסייבר הלאומי והוא בעצם מערך הגנתי שנשמע סקירה מקיפה על יכולותיו, כשהמטרה של הדיון הזה בסופו של דבר היא, שאנחנו, כל אלה ששומעים את העניין הזה וחברי הוועדה, ואני מקווה שיצטרפו אלינו עוד חברי כנסת, נדע איך להשתמש ביכולות האלה בעתיד, או איך להמליץ להשתמש ביכולות האלה בעתיד כי אנחנו ועדה, וועדה כמו שלי יכולה להמליץ, לפקח, לבקר, וזה מה שאנחנו משתדלים לעשות בדרך הטובה ביותר.

אז אני אפסיק לדבר ואני אשאיר את הבמה לך, גבי. אני מתנצל מראש על שני דברים, האחד, אני כנראה אאלץ לעצור פה אותנו לחמש דקות לרוץ להצביע בוועדת הכנסת ולחזור לפה, זה גם קורה למי שחבר ביותר מוועדה אחת, אין לי ברירה אלא רק לרוץ לשם. והדבר השני, אנחנו נצטרך לסיים קצת לפני השעה 11:00 כי אנחנו הולכים לעשות ישיבת סיעה באביתר, וחשוב מאוד שאני אהיה נוכח שם, אז אני מתנצל מראש על שני האירועים האלה. גבי, הבמה שלך.

אז קודם כל תודה ואני שמח על ההזדמנות. כפי שציינת, מר פוגל, אני מאמין שתחום הסייבר בעולם ובטח במדינת ישראל, חשיבותו לביטחון הלאומי היא קריטית ונכון שהוועדה תכיר ונכון שנעסוק בזה. אני אדבר קצת על המערך ואז דווקא אני אעבור על איך אנחנו מגנים על מדינת ישראל, ויפה לראות את הפורום הזה והרבה מהשותפים שלי פה ולא עושים סייבר לבד.

(הצגת מצגת)

מבחינת החזון, אתם יכולים לראות מרחב דיגיטלי אמין ובטוח, מאפשר את היתרונות של עולם מחובר ומשגשג, כאשר איך לוקחים את הטכנולוגיה ואת ההיצע הטכנולוגי, שמדינת ישראל היא מהמדינות המובילות בעולם, ומחבקים אותה אבל עושים את זה אמין ובטוח? כך שכל מי שמשתמש בה יוכל להנות וכמובן לאפשר למדינת ישראל לשגשג.

מבחינת הייעוד, הדגשתי פה כמה דברים. קודם כל לא שכחתי את המילה הגנת סייבר, אבל דווקא אני רוצה לבוא ולציין. מאמץ לאומי משותף. זה לא מערך הסייבר יגן על, אלא זה מאמץ לאומי, אני גם יכול להוסיף בסוגריים את הבינלאומי המשותף. סייבר לא עושים לבד. לביטים אין גבולות מוגדרים ולכן צריך להבין את זה, זה עמוק. אז קודם כל ממשלה, מגזר ציבורי, הממסד הבטחוני הפרטי, וכמו שאמרתי גם הבינלאומי, לאפשר את אותו אמון דיגיטלי אמין ובטוח בין אנשים, בין ארגונים וכמובן בכל מה שקשור לתהליכים וטכנולוגיה, וזה בא לידי ביטוי בעולם של פרטיות, יש פה איזון דק בין השמירה על פרטיות לבין הרצון להגן, זה בא לידי ביטוי בניהול הסיכונים, זה בא לידי ביטוי במשילות, באתיקה, ואנחנו פה בוועדה גם בעולם של שקיפות.

מבחינת התפקידים, אני לא אכנס לכל התפקידים, אבל קודם כל כמו שאמרתי קודם זה להוביל יחד, אני רוצה לדבר על המודעות. אם היינו מודעים לסכנות בצורה מיטבית, אני חושב שהיינו פותרים, לא רוצה להגיד באחוזים, אבל נגיד 30% מהסכנות בסייבר. אני לא רוצה לשאול פה את הפורום, שאף אחד גם לא יגיד לי, אבל אני לא בטוח שהסיסמה לטלפון היא מהטובות שיש, או שהסיסמה למחשבים שלכם היא מהטובות שיש, אני אגיד יתרה מזאת ופה אולי כן תענו לי, האם יש למישהו אנטי-וירוס על הטלפון שלו? אני מאמין שאף אחד לא יצביע. אז הנה אף אחד לא הצביע, הנה רק לך יש. וגם לי. אבל צריך להבין ככל שנעלה את המודעות ואנחנו מתפקידנו להעלות את המודעות, כך נדע להתנהג טוב יותר בממד הזה.

הדבר השני שאני רוצה לציין בתפקידים זה תחום החירום. מלחמת אוקראינה-רוסיה שמה את מרכיב הסייבר בחזית, זה לא המרכיב הבלעדי הוא חלק מהלחימה הקינטית, אבל אנחנו רואים שם תעשייה מרובה. אבל לי חשוב פה לציין, מי שמעמיד את אוקראינה על הרגליים זה גם ארצות הברית, בריטניה וגרמניה, אבל גם מיקרוסופט, גם אמאזון וגם גוגל. חברות גדולות לוקחות צד במלחמה ומחליטות לעזור לאחד הצדדים. לנו זה משהו שמחייב ללמוד אותו. אחד, קודם כל הקונפליקטים באזור לא נגמרו ואנחנו צריכים לעבוד עם החברות האלה כמו שאנחנו עובדים עם מדינות ביחסי שיתוף פעולה אסטרטגיים ומכאן החשיבות לבוא וללמוד וכמובן להיות מוכנים לחירום גם בממד הסייבר.

והדבר האחרון, כמובן, עולם של מדיניות, גם לייצר אסטרטגיה לאומית, ואנחנו בעיצומה של כתיבת אסטרטגיה לאומית לשלוש השנים הקרובות ובהסתכלות שנים קדימה. ולא פחות חשוב, ונדבר על זה וליאת תרחיב על זה.

שלוש שנים זה נותן מענה לקדמה ולטכנולוגיה?

העולם המשוגע הזה שאנחנו נמצאים בו של האצה טכנולוגית, אז אם אתה רוצה לקצר לטווח קצר זה לחודשים, ואם אתה רוצה לתכנן לטווח ארוך זה שנתיים-שלוש ואם אתה רוצה לייצר אסטרטגיה זה להיום. אבל, ברמת העיקרון, זה בסוף אל מול ההשתנות המאוד גדולה. ראינו רק ש-chat GPT נכנס, מה קרה לעולם ה-AI בעולם, יצר טלטלה, זה בדיוק השינויים האלה, ולכן מעל שלוש שנים זו כבר נבואה. אבל כמובן שנסתכל גם מעבר לזה, בהקשר הזה. והדבר האחרון בהקשר של מדיניות זה כמובן רגולציה שחייבים גם לעשות מעשה, ואנחנו נרחיב על זה.

יש פה את השקף על המבנה. אני חייב להגיד על מערך הסייבר, אחד, מערך לא גדול ביחס למקביליו בעולם, זה גוף שהוא קודם כל אזרחי, טכנולוגי ומבצעי. אנחנו עובדים מאוד מאוד חזק בזיקה לממסד הבטחוני, אבל אנחנו אחראים על ההגנה של המשק ומפה הסיבה להקמתו. מה שעשינו לאחרונה, באמת אפשר לראות פה חטיבת הגנה מאוד משמעותית שכל מרכיבי ההגנה שלה במקום אחד. דגש שלנו לטכנולוגיה ברמת המדינה ולאו דווקא טכנולוגיה למערך. היחידה הביומטרית שמאוד מאוד חשובה, הסיפור של הזדהות חכמה, בכלל בעולם ובטח בישראל סופר חשובה ויכולה לתרום להגנה בסייבר. וכמו כל ארגון, בניין כוח אם, אם זה קש"ח מדיניות אסטרטגיה וכו'.

מפה, אני עובר עכשיו להסתכל על איך המדינה מגינה על עצמה בסייבר, ואני קורא לזה סייבר בצבעים. אמנם זה הדגל הלא נכון של המדינה, אבל אני ארגנטינאי אז מותר לי. אז בהקשר הזה זה אדום. אני מגיע מ-30 שנות צבא, אנחנו מורגלים להסתכל על הצד האדום ולפעול אל מול הפעולות שלו. אז בצד האדום, כמובן האויבים הקלאסיים של מדינת ישראל, איראן איראן איראן כשזה קשור לסייבר. חיזבאללה, אבל חשוב לציין כפרופסי של איראן ולכן היכולות עולות שם בסדרי גודל. אותו דבר החמאס שניזון ממה שקורה ומשפר את הפעילות שלו. ארגוני פשיעה אנרכיסטים וכו' וכו'.

אז כמו שאמרתי, אנחנו מוטרדים מהחיבור הזה של איראן וחיזבאללה גם במסגרת המגמות העולמיות, אי אפשר להתעלם מהחיבור עכשיו של רוסיה עם איראן, שוב בהקשרי הלחימה, אבל אנחנו מסתכלים על זה בהקשרי הסייבר וזה מטריד, והמלחמה או היריבות בין סין לארצות הברית, כמובן שגם משפיעה עלינו בהקשרים האלה, כחלק מאותן מגמות עולמיות. זה בצד של האדום.

בצד של הכחול, כמובן, וזה הסיפור הגדול של מערך הסייבר, זה להגן על הנכסים שלו. אנחנו רוצים להגביר את החוסן על הנכסים, בתחילה הכי משמעותיים שלנו, שאלו התשתיות המדיניות הקריטיות, לאחר מכן כל המגזר הממשלתי או הסקטורים הממשלתיים הציבוריים ולאחר מכן כמובן, כל המשק בהסתכלות הזאת ובתיעדוף הנכון. אבל זה הסיפור הגדול של המערך.

באמצע, יש את המרחבים, אני קורא לזה מרחב האינטרנט, אז בלבן זה מרחב האינטרנט הגלובלי, שם האויב שם את התשתיות כדי לתקוף את מדינת ישראל או כדי לתקוף בעולם, וככל שנקיים יותר ויותר שיתופי פעולה עם מדינות, ושוב אני מזכיר, לביטים אין גבולות פיזיים, וככל שנקים יותר בריתות עם מדינות ובריתות ביחד עם החברות הטכנולוגיות הענקיות, כך נגן יותר טוב על מדינת ישראל.

שוב, אם אנחנו מדמים את זה לגדר, אם אנחנו נייצר שיתופי פעולה בתוך המזרח התיכון לדוגמה הסכמי אברהם, הגדר שלנו למול איראן תלך ותתעצם. זה מה שצריך לבוא ולדמיין אותו. והדבר השני, זה כמובן התכלת, שם אנחנו רוצים להקים את כיפת הסייבר, באנלוגיה לכיפת ברזל, ואני אעמיק על זה כמובן אחרי זה.

אני מתחיל רגע בתיאור של האדום בהקשרים האלה. אז דיברתי על האויבים שלנו, האויבים הקלאסיים ולא רק זה, גם ארגוני הפשיעה והאנרכיסטים בהקשר הזה שגם עליהם צריך לתת את הדעת. אבל מה שעשינו לאחרונה ושמנו דגש, זה לא רק ההסתכלות מהאדום אל עבר לכחול, אלא גם בואו נראה מה קורה בסקטורים, נראה מה מצבם, וכמובן למול איום הייחוס כך נדע להרים את החוסן.

מה שמופיע באדום זה לאו דווקא מה שקורה אצלנו במדינת ישראל, אלו הסקטורים המטורגטים ביותר בעולם. אז אפשר לראות שם את האנרגיה והשלטון המקומי, וכמובן המגזר הפיננסי שם נמצא כל הכסף. המחקר אצלנו זה כל מה שקשור לעולמות החינוך והאקדמיה, שם יש את הסודות ואת המו"פ, וכל אחד יכול לדמיין מי התוקפים שם וכו', אתם יכולים גם לראות את זה לבד. למה הטרנדים האלה חשובים? כי שוב, גם אצלנו צריך לבוא ולהשפיע ולראות, שוב, אותה לחיצה על כפתור שב-milliseconds מגיעה לבית חולים בארצות הברית, ובאותה מידה מגיעה גם להלל יפה אצלנו במדינת ישראל, ולכן בתי החולים צריכים להיות ערוכים כחלק מהטרנד העולמי, ולא רק כמובן, גם אל מול מה שאנחנו רואים באדום.

קצת להבין את המגמה. נתחיל ככה, האיראנים. האיראנים הבינו שממד הסייבר זה ממד שטוב לפעול בו. אחד, ביחס לטנקים ומטוסים והגנת טילים, זה לא יקר. והם מעצימים את התקיפות שלהם בסייבר כל הזמן. זה חלק ממגמה עולמית. בסוף מבינים פושעי הסייבר, או מדינות מבינות בצד הלא נכון של המשוואה, בצד של הרעים, מביאים שלתקוף בסייבר זה יחסית פשוט. תשימו לב, אם אתם תוקפים בית חולים במלחמה, למשל אוקראינה-רוסיה, רוסיה תקפה בית חולים זה פשעים כנגד האנושות. תקפו לנו את הלל יפה לא קרה שום דבר, ממשיכים. 300 ומשהו בתי חולים הותקפו בשנת 2022 בארצות הברית, ומספר דומה בצרפת. לא קרה שם דבר, הסיפור של נורמות וערכים בסייבר, זה עולם שהולך ומתעצב, ואנחנו צריכים להיות חלק ממנו, אבל צריכים להיות מודעים לזה שזה גדל כל הזמן ולא בשביל לאיים אלא בשביל להבין את התופעה.

זה גדל בסדרי גודל האלה בכל שנה?

פחות או יותר. אז הסתכלנו רגע על האיום. עכשיו אני מסתכל רגע מהצד השני, איך אנחנו עובדים אל מול האויבים שלנו, וזה בעיניי הקסם. אם אתם שואלים אותי איפה היתרון היחסי של מדינת ישראל בסייבר ביחס לכל העולם, זה הקסם הזה. אנחנו קוראים לו האורגן. שיתוף הפעולה בתוך הגופים הביטחוניים של מדינת ישראל הוא יוצא דופן. אני מגיע אחרי 30 שנות מודיעין ולראות את הקהילה ככה עובדת בצמידות אל מול האויבים שלנו מבחוץ, זה באמת אירוע שמעורר השתהות והשראה.

אפשר לראות פה את צה"ל, זה 8200 חטיבת ההגנה בסייבר, המוסד, השב"כ, המלמ"מ, יש פה את נציג המל"ל שהוא חלק אינהרנטי באורגן הזה. אמנם לא מופיע פה הלוגו, אבל הוא חלק אינהרנטי באורגן הזה. ובאמת אני חושב שאנחנו, אל מול איראן, חמאס וחיזבאללה, שוב זה הגנה. לא לעולם חוסן, ומצליחים מידי פעם, אבל אנחנו פועלים בצורה מיטבית וזה באמת יתרון יחסי משמעותי.

חלק מהאדום, אמנם בהסתכלות קצת אחרת זה עולם פשיעת הסייבר, אתם יכולים להבין, ואנחנו פה מדברים על ביטחון לאומי, זה חלק מפשיעת סייבר, בטח במדינה כמו ארצות הברית, שמגיעה לידי 130 מיליארד דולר נזק מפשיעת סייבר, זה כבר משהו שפוגע בביטחון הלאומי. אנחנו הבנו שאנחנו צריכים, קודם כל אל מול הנתונים שאתם רואים פה, להתארגן קצת אחרת, גם התשלום הממוצע על פשיעה הולך וגדל משמעותית בסדרי גודל.

אנחנו יכולים לבוא ולראות שהתחזית היא גם פה, שוב, חברות מסחריות אומרות לנו שיש עליה כל הזמן, לצערי אני יכול לבוא ולהגיד לכם, יש מעט דיווחים במדינת ישראל על פשיעת סייבר, ומה שחשוב להבין, התוקפים שלנו בוחרים את היעדים. אם פעם הם ריססו ואמרו אני אגיע, והגיעו להלל יפה לא הבינו שזה בית חולים שאין לו משאבים והוא גם לא ישלם, עזבו את זה. אבל מבינים היטב לאן ללכת כדי לראות, אפרופו למה מגיעים לבתי חולים כי זה ישר אצלנו נתפס בפגיעה בחיי אדם. ולכן הם יודעים שיש סיכוי שישלמו שם, וישלמו שם הרבה. אז אנחנו צריכים להבין את זה שהם מטרגטים היטב. אפרופו אירועי הטכניון וכל מה שהיה לנו לפני שבועיים.

והדבר האחרון שאני אגיד על פשיעת הסייבר בהקשר של הצד הזה, אפשר לראות פה את הציור של הבית הלבן, את גברת אן הויברגר, היא הסגנית ליועץ לביטחון לאומי לנשיא בסייבר. וכדי להילחם, אפרופו לא עושים את זה לבד, הקימו פורום ה-CRI נקרא, של 37 מדינות שנלחמות ביחד בפשיעת סייבר. שוב, אמרתי לכם כשקבוצת התקיפה קונטי תוקפת, זה לא משנה בכלל האם זה מגיע לישראל, לארצות הברית לגרמניה או במקרה הזה, לקוסטה ריקה.

בקוסטה ריקה הנשיא הכריז על מצב חירום לאומי כי הם פגעו במערכת גביית המיסים. והם לא הצליחו לגבות מיסים במדינה והם הכריזו על מצב חירום לאומי, ולכן גם את זה צריך להבין, ולכן הסיפור הזה פה של עבודה משותפת הוא מאוד מאוד חשוב. מה עשינו בשביל זה? הקמת את ה - - -, אנחנו בשלבי הקמה שלו. קובי מהמשטרה נמצא פה, אחד המרכיבים המשמעותיים שלה, אנחנו יושבים פה, שוב אתם יכולים לראות את הנציגים, משטרת ישראל, הרשות להגנת הפרטיות, הרשות להלבנת הון, השב"כ שנמצא בממד הזה שבין ריגול לפשיעה במרכיבים האלה, או בין טרור לפשיעה במרכיבים האלה, ואנחנו יושבים ביחד ומנסים לתת מענה מדינתי גם לעולמות פשיעת הסייבר, גוף שהולך ומתהווה. אז אם אני מסכם את הצד האדום שלנו, 50 גוונים של אדום.

הזכרת את החמאס בהתחלה, וציינת שהחיזבאללה הוא פרוקסי של איראן. חמאס ממי הוא מקבל את הסיוע שלו, את המידע? מאיראן?

לא, גם איראן, גם חיזבאללה, ואפשר היום לקנות ב-dark net הרבה מאוד יכולות, וכמובן יכולות שהוא מייצר בעצמו. יש לו יכולות.

יש לו?

כן. אפילו יכולות טובות. בצד הכחול, אז אנחנו מתחילים כמובן ביהלומים שבכתר. אנחנו עובדים אל מול התשתיות המדיניות הקריטיות. אתם יכולים לראות כ-50 גופים, חלקם באחריות המערך, חלקם באחריות השב"כ, וחלקם באחריות המלמ"ב שאנחנו מגדירים אותם כתשתיות מדינתיות קריטיות, הם מקבלים ציון בין 1-5 מה שאני יכול לבוא ולהגיד לכם, אנחנו משתפרים בהגנה שלהם בצורה מתמדת. עלינו מ-3.88 ממוצע בשנת 2021, אנחנו כבר על 4.12. זה אומר שהגופים האלה מבינים היטב את האיום והם כל הזמן מתקדמים בהגנה, זה לא קל, זה משהו שצריך לתחזק אותו.

אני מדמה את זה תמיד בריצה במדרגות נעות, ולפעמים אפילו הקצב מתגבר כדי שתספיק לעמוד אפילו במקום, בטח ובטח כשאתה רוצה לבוא ולהתקדם. אז אתם יכולים לבוא ולראות פה חלק מהגופים.

יותר מעניין, זה ה-500. שוב, אל תתפסו אותי על המספר, זה רק כדי לתת את המודל. עבודה צמודה עם המשרדים הרלוונטיים, ובתוך המשרדים הרלוונטיים. היחידות המגזריות יש להם יחידות סייבר, חלקם ברמה מאוד מאוד טובה, חלקם הולכת ונבנית ואנחנו עובדים עם הסקטורים הממשלתיים. זה מאוד מאוד חשוב. אם אנחנו רוצים לבוא ולהגדיל את משטח, לא התקיפה אלא את משטח ההגנה, חייבים לעבוד עם משרדי הממשלה. כלומר, זה לא אנחנו, עד שאנחנו נבין מה קורה בעולם הפיננסי ייקח שנים, ולכן לעבוד עם המגזר הפיננסי, עם המשרד הרלוונטי, עם משרד האוצר, ולראות שעושים סייבר פה ביחד, בעינינו מאוד מאוד חשוב.

איפה אני מסמן את הבעיות שלנו? אפשר לראות בצד שמאל, מגזר ה-IT אין לו רגולטור היום במדינת ישראל. אתה רוצה להקים חברת IT? אתה שם ארבעה מחשבים קושר אותם ביחד מתחת לשולחן ואתה פותח חברת IT במדינת ישראל. באופן לא מפתיע, כל התקיפות נעשות או בקווי התקשורת, בספקיות התקשורת של מדינת ישראל, או דרך חברות ה-IT, ולכן אנחנו חושבים שצריך רגולציה גם בנושא הזה, כדי לראות שאנחנו ממשמים את ההגנה בסייבר בצורה מיטבית. יש שם לא מעט תקיפות ואחרי זה נראה גם קצת מספרים.

דיברנו על רגולציה. יש היום רגולציה על התשתיות המדיניות הקריטיות במסגרת חוק להסדרת הביטחון. כל השאר לא מרוגלץ, ולכן רצינו לצלול מעט על הרגולציה. מה שאנחנו באים ואומרים, בואו ניישר קו אל מול העולם, אבל ליאת תעשה את זה יותר טוב ממני, אז ליאת בבקשה.

תודה. אז בהמשך למה שראש המערך הציג, של רעיון מסדר של תפיסת הגנה רחבה, גם כאן באזורי הרגולציה אנחנו רוצים לעשות שימוש בכלי מדיניות שלמעשה יעלו את רמת ההגנה. אם דיברנו על הגנה על נכסים, אם דיברנו על הגברת החוסן על אותם נכסים, אנחנו רוצים להגיע מתוך תפיסה לאומית רחבה, ולייצר כאן כלים שיתנו לאותם רגולטורים באותם סקטורים כלים גם בקביעת סטנדרטים אחידים בהגנה בסייבר, וגם, לצורך העניין, ביכולות פיקוח ואכיפה על מילוי אותם סטנדרטים.

ומה אנחנו אומרים? אנחנו אומרים שבעצם, כמו שראש המערך אמר, יש את התגברות איומי הסייבר, המורכבות שלהם, שכלול היכולות של התוקפים. מצד שני יש את הטכנולוגיה המואצת ואת התלות הגוברת של הארגונים של המשק בדיגיטציה, ובעינינו גם יש היעדר של הפנמת הסיכון, ככל שאתה לא מרים את רמת הגנת הסייבר שלך בארגון, אתה יכול בעצם להינזק באופן שקשה לך לחזות אותו, וגם את היעדר העלות הכוללת של הגנה של נזקי סייבר. זאת אומרת, הגנה בוודאי תהיה, יש השקעה משאבית, יש השקעה כלכלית אבל הנזק שעלול לקרות תקיפת סייבר הוא הרבה יותר רחב ומשמעותי. גם הטכניון, גם בית חולים הלל יפה יכולים להעיד על זה.

אז מה בעצם אנחנו רוצים לקדם? שמירה של הרציפות התפקודית בראייה לאומית. מתוך הרצון להסדיר בכלים רגולטורים את הסטנדרטים שיהיו לסקטורים בהיבטי הגנת הסייבר. הרכיבים המרכזיים מבחינתו, ואנחנו מסתכלים על חקיקה משווה בעולם, הדירקטיבה האירופאית עברה לפני מספר חודשים, שמדברת בדיוק על זה, על החלת סטנדרטים ברורים בסקטורים משמעותיים ואנחנו מדברים על החלת חובת סיכון, זאת אומרת מה סטנדרט ההגנה שיהיה בסקטורים אל מול חובת דיווח על אירועי סייבר? והחובות האלה יושתו על הרגולטורים עם סמכויות פיקוח ואכיפה משמעותיות. חובת דיווח אנחנו גם - - -

יש לכם היום סמכויות אכיפה?

לנו אין היום סמכויות אכיפה, אנחנו גם לא מעוגנים בחקיקה רק בהחלטות ממשלה ואין לנו סמכויות כלפי המשק. אבל שוב, אני רוצה לדייק, סמכויות אכיפה של חובת ניהול הסיכון לא היו בידי מערך הסייבר, אנחנו רוצים מתוך ראייה לאומית רחבה, שזה בדיוק מה שהציג ראש המערך, אנחנו בעצם רוצים להקנות את הכלים האלה לרגולטורים, לחלקם יש, לא בהיבטים של חקיקת סייבר, לחלקם יש מתוך פרשנות רחבה מאוד של לנסות ליצוק תוכן לעולם המתקדם, מתוך חקיקה שעלולה להיות לפעמים מאוד מיושנת ואנחנו רוצים גם חובת דיווח ברורה, ששוב, לחלק מהרגולטורים יש, ויש רגולטורים חזקים, אבל לחלקם הגדול אין, וגם שם היינו רוצים להסדיר את זה.

אנחנו גם היינו רוצים חובת דיווח על אירועי סייבר, כדי שתהיה לנו הראייה הרחבה והמתכללת, כשהאפשרות לפעול תהיה על הרגולטורים. כמו שראש המערך ציין, מבחינתו קריטי מאוד להוסיף את הארגונים, את הסקטורים החיוניים, כשהסקטור של הטכנולוגיה, MSP הוא הסקטור המרכזי. גם שלטון מקומי, גם אקדמיה, בשולי החדשות היה דיווח על התקיפה בטכניון. כמו שאמרתי, מי שלצורך העניין יאכוף את זה, יהיו הרגולטורים, ומבחינתנו מה שחשוב לנו זה סמכויות למערך הסייבר למימוש תפיסת ההגנה של כיפת הסייבר על מנת שאנחנו נוכל להביא את הדברים היפים האלה שראש המערך הציג, אנחנו צריכים את הסמכויות שלנו בהיבטים האלה.

יש התקדמות בנושא הזה של ועדת חקיקה מסודרת? זה כבר מ-2018 לפחות הסיפור הזה.

ב-2018 הייתה תפיסה שהיא שונה לחלוטין, אפשר לדבר על זה. טיוטת החוק מסדירה יותר סמכויות מבצעיות למערך. כאן אנחנו מדברים על רגולציה בהיבטי הגנת סייבר. למעשה עשינו חישוב מסלול מחדש, ממש בימים אלה אנחנו עומלים על טיוטת החוק. זו תהיה חקיקה שהיא שונה, לא החקיקה של 2018, ועם זה אנחנו נצא לסבב למול הרגולטורים על מנת להבין האם הם רואים עין בעין איתנו, אנחנו רוצים לחזק אותם, ומשם זה גם יהיה שימוע ציבורי. יהיה לנו תהליך אבל אנחנו רוצים להגיע חזקים ובצורה שונה לחלוטין מ-2018.

שוב, מה שחשוב פה להבין, ואמרתי, מאמץ לאומי משותף ואני מתכוון לזה. זה בסוף לראות איך מגינים על מדינת ישראל, ואם אנחנו מגינים, אז יש את המערך אבל הוא חל מ-ecosystem שלם , אנחנו צריכים את הרגולטורים ולכן אנחנו צריכים להביא להם את אותן סמכויות. וגם פה, שמנו מיקוד על 500, שוב אל תתפסו על המספר, הארגונים החיוניים במשק. זה לא עכשיו כל המשק, עדיין איפה אנחנו רוצים לבוא - - -

בהיבט הבינלאומי יש לנו ממי ללמוד את נושא הרגולציות?

כל כך הרבה ממי ללמוד. אם אנחנו רגע מסתכלים בראייה משווה, ב-2018 - - - דירקטיבה אירופאית להגנת סייבר, שלמעשה מדינות האיחוד האירופאי מחויבות היו לאמץ בדיוק את חובת ניהול הסיכון וחובת הדיווח על ארגונים חיוניים באירופה. האירופאיות כבר השיקו את החקיקה שלהם בסביבות 2018. האנשים שנמצאים כאן לא היו האנשים שהיו אז. גם, לצורך העניין, בשנה-שנתיים האחרונות - -

שלוש וחצי השנים האחרונות.

האוסטרלים השיקו בליץ של חקיקה בדיוק בהיבטים האלה, בהיבטים רחבים גם יותר, אבל באזורים גם של רגולציה שהיא רלוונטית להגנת סייבר, האמריקאים גם מדברים על חובות דיווח, הם מתנהלים שם קצת אחרת, יש להם עדיין catch-up לעשות, הם השיקו את החקיקה שלהם בחצי השנה האחרונה. אבל אם אנחנו מסתכלים, האירופאים כבר נמצאים בשלב השני, של עדכון החקיקה והרחבת החובות והרחבת הסקטורים והרחבת הארגונים שהם, לצורך העניין, יהיו תחת הרגולציה הזו. אנחנו ממש רק בראשית הדברים.

אז אני אהיה פחות מנומס ואגיד ב-2012 כשראש הממשלה הקים את מטה הסייבר, זה עוד לא היה מערך, היינו מובילים בעולם. היום, בתחום הרגולטורי אנחנו מפגרים בסדרי גודל וחשוב שנעשה את הצעד הזה. אני אגיד למה, אני כשנכנסתי לתפקיד הייתי תמים ורציתי להגיד שאדם מבין שכשהוא מאבד את הטלפון הוא מאבד את החיים שלו, אז הוא יהיה מספיק אחראי, אז לא כך הדבר, ולכן צריך רגולציה, ולכן אני חושב שמאוד חשוב להגנת הסייבר. שוב, הגברת החוסן בהקשר הזה.

אז דיברנו על התשתיות המדינתיות הקריטיות, דיברנו על המגזרים הממשלתיים, ועכשיו אני מדבר על ה-500,000 הארגונים של מדינת ישראל, והאנשים, אנחנו רוצים להעלות את המודעות, קמפיינים של סיסמה טובה יותר, של לא ללחוץ על הלינק, של אימות דו שלבי וכו'. גם מודעות אפילו למנכ"לים של ארגונים. יש לנו את ה-119, לא 911 אלא 119, שזה המוקד, בעצם מרכז 24/7 לדווח גם ארגונים וגם אזרחים, ואני אדבר על מספרים קצת בהמשך. וכמובן, לקחת מאגדים מקצועיים, כדי שוב להגדיל את משטח ההגנה בהקשר הזה כמו לשכת עורכי הדין וכו'.

קצת מספרים בכל זאת, אנחנו ב-119 מקבלים בערך 20,000 שיחות בשנה וזה הולך וגדל כל שנה. מתוכן, כ-9,000 הן תחילו של אירוע סייבר שאנחנו באים למנוע. את רובם אנחנו גם מצליחים למנוע. אפשר לראות פה כשליש מהאירועים זה אירועי פישינג, זו אותה לחיצה על הלינק שלא צריך ואז אתה כנראה חשפת את המספר כרטיס אשראי שלך במקרה הטוב, במקרה הפחות טוב חשפת את הארגון שלך לכדי זה שישתילו לך נזקה, יש לא מעט ברשתות החברתיות.

אפרופו תופעה שמטרידה את הציבור, זה לא בדיוק סייבר, אבל היום הטרנד לקחת, לפרוץ לעמוד של ארגון או של בן אדם, לשתול שם מסר פוגעני, ומה עושה פייסבוק? סוגרת לך את העמוד. כלומר, מה שאנחנו עושים בתהליך סדור עם משרד המשפטים כשאנחנו מזהים משהו פוגעני, אז פונים למשרד המשפטים ואז פונים לפייסבוק וצריכים להוכיח שזה מסר פוגעני חד חד-משמעי חד חד-ערכי ואז אולי הם סוגרים וזה לוקח לפעמים בין שעות לימים, אז פה הבינו איך לעשות את זה, וזה אפרופו כל מיני צורות של סייבר, וכמובן אפשר לראות פה נוזקות, חולשות וכו'.

מתוך כל הדברים האלה אנחנו ממפים כ-1,000 פלוס אירועי סייבר שללא התערבות המערך, פוטנציאל הנזק היה משמעותי. ופה אני רוצה לבוא ולהגיד, קודם כל המשק, במודעות נמוכה לא מספקת, ולכן הרבה מאוד תקיעויות בעולמות ה- small-medium business לעסקים הפרטיים, אנחנו יכולים לראות את הטכנולוגיה. זה מה שאנחנו קראנו לו מגזר ה-IT. דלת כניסה לפגיעות סייבר משמעותיות ואנחנו רוצים לטפל בזה, ואתם יכולים לראות בהמשך כמובן את כל שאר הדברים. הסקטור הממשלתי הוא כמובן, סקטור מעניין, לפגוע בסמלי מדינה, וגם פה אפשר לדמיין מי רוצה לפגוע בנו בהקשרים האלה.

לאן הולך הפער בין ה-9,000 ל-1,000?

זה בסוף מתקפת דיוק על מישהו פרטי. זה כבר תקיפות משמעותיות שאני חושב, ששוות מיליונים למשק בהקשר הזה, בהערכה גסה כמובן.

עכשיו עברנו מהכחול ללבן, אז אתם יכולים לראות הרבה מדינות שיש לנו קשרים איתם בסייבר, שוב אמרתי, שיש לזה חשיבות מאוד מאוד גדולה. נמצא פה נציג משרד החוץ ואנחנו עובדים פה בצמידות. אני חושב שגם הסייבר כמטבע קש"חי אבל זה לא רק לנו, אנחנו מסתכלים על זה בהקשרים של איך אנחנו רוצים לבוא ולהגן טוב יותר, ואמיר עובד יחד איתנו בצמידות בהקשרים האלה. הסיפור הלא פחות מעניין אתם רואים למטה, זה כבר חברות הענק או החברות הגדולות, אפשר לראות שם את Boeing, חתמנו על הסכם שיתוף פעולה עם Boeing. אז תחשבו על זה שכל מטוסי Boeing שטסים בכל העולם, איזה מכ"ם סייבר זה, אבל גם הצי של אל-על הוא Boeing ולכן יש לנו אינטרס של מדינה לבוא ולעבוד יחד איתם ולראות איך אנחנו ממגנים מטוסים בצורה טובה יותר.

הסכמי אברהם, רכיב הסייבר סופר משמעותי. בסייבר-טק האחרון, לפני מספר שבועות היו פה כל הנציגים של הסכמי אברהם יחד עם האמריקאים על אותה - - - בגלוי ואנחנו עושים הגנה משותפת. אחד, שיתוף מידע על האויבים ועל פשיעת סייבר, ושתיים, הקמת טכנולוגיות משותפות, תעשייה ישראלית גם זה חשוב לא פחות. והסיפור האחרון בקש"ח זה אלבניה. אלבניה נתקפת על ידי האיראנים, אמנם היא נתקפת על ידי מיקרוסופט, אבל גם מדינות אחרות בעולם מתקפות את זה שאיראן תקפה אותם בסייבר, וראש ממשלת אלבניה מחליט לגרש את שגרירות איראן מאלבניה. כלומר, כבר סייבר במרחב אחר, דיפלומטי כנגד איראן, מאוד מאוד חשוב. כמובן שהיום אנחנו עוזרים לאלבניה בצורה משמעותית קדימה ואני יכול לתת לכם עוד הרבה דוגמאות יפות בהקשרים של הקשח. שוב, אמרתי לכם אין לזה גבולות וחשוב לייצר פה הגנה ברמה העולמית.

דבר אחרון שאני אבוא ואגיד, כיפת הסייבר. אז הגענו לתכלת, רציתי איזה מרשם מסובך ככה שתבינו שסייבר זה מסובך, בכל זאת, אבל כן, לא כל כך מסובך. כיפת הסייבר, בהינתן, ושוב, זה לא אנחנו זה כל יושבי השולחן שיושבים פה, שמייצגים את כל הגופים, נבנה אותה נהיה בקדמת ההגנה ברמה עולמית. אז קודם כל הגנה 5-0 מדברת על איסוף מידע.

איסוף המידע הרלוונטי, שזה מצד שמאל ה- data collection סנסורים מחברות הענק, כמובן מודיעין ייחודי שיש לנו, לבוא ולהטיח אותו בצורה נכונה בעבודה משותפת שלנו עם הממסד הבטחוני בהקשר הזה. כלומר, גם המודיעין המאוד אינטימי של מדינת ישראל, וגם המידע המסחרי וכל הדיווחים שמגיעים מהמשק. לקחת ולעשות לו את האנליטיקה הנכונה. אפרופו היום כלי AI זה הכלי החדש שלנו, ואנחנו רוצים לבוא ולהשתמש ובסוף להשתמש active cyber defense כלומר, הגנה אקטיבית שאנחנו נותנים שירותים למשק, כדי להעלות את רמת החוסן. בתוך כך, יש בסוף את הקוקפיטים שלנו, אפשר לראות אותם פה פעם אחת למעלה בשקף, soc של כל מגזר ומגזר, ועל זה את ה-national soc זה החמ"לים שמרכזים את תמונת המצב ואפשר לעשות בעזרתם את הערכת המצב כדי להגן טוב יותר על מדינת ישראל.

עכשיו, אני אגיד לכם משהו שלמדתי בשנה הזאת בבאר שבע. רוב הסוקים של המגזר הממשלתי יושבים באותו מבנה. נכנסתי לתפקיד, ואמרתי מה זה ביטים, שכל אחד ישב, כי למשל משרד הבריאות יושב בירושלים, משרד התחבורה יושב בנתב"ג, אמרתי מה זה משנה, זה ביטים, זה לא משנה איפה שיושבים, עדיין אנחנו אנשים, עדיין הממשק האנושי הוא קריטי, וזה שאנחנו יושבים באותו מתחם ביחד זה קריטי ומשפר אותנו בסדרי גודל. אז אני פה, בהסתכלות שנתיים קדימה, ארצה לראות את כל המגזר הממשלתי יושב באותו מבנה, אינשאללה גם בבאר שבע גם בהקשרים האלה.

אז זאת כיפת הסייבר, יש לה הרבה מאוד כבר חלקים בפאזל הזה, היום אנחנו מרכיבים את זה לידי מערכת, ואני חושב שנביא פה בשורה למדינת ישראל. כי שוב, כשאתם שואלים את עצמכם מה בין הגנה על הפרטיות לבין הגנה בסייבר, זו נקודת איזון שהממשלה צריכה להחזיק את זה באמת בצורה מאוד מדויקת, כי אם אנחנו באים ומשווים, השמיים הם ציבוריים ואפשר להגן עליהם כמדינה, פה יש מרחבים שהם ציבוריים אבל רובם פרטיים, ולכן, איך הממשלה מגינה? ראיתם פה את המרכיבים שלה, וזו שאלה שאנחנו צריכים כל הזמן ללכת ולדייק.

אני מסכם, איום שהולך וגדל וצריך להיערך אליו. נדרש לרוץ בקצבי סייבר, כיפת הסייבר, אני חושב, כרכיב בניין הכוח המשמעותי. הסיפור של חיבורים ושותפויות הוא קריטי, זה מאמץ לאומי משותף ולא סיפור של מערך, והדבר האחרון שלא דיברנו עליו היום, ההון האנושי. אנחנו צריכים לטפח את ההון האנושי מבתי ספר עם האוריינות הדיגיטלית, דרך, כמובן, השירות הצבאי באשר הוא, או שירות לאומי, ובסוף להגיע לתעשייה ולהמשיך לייצר פה את מדינת ישראל כ-cyber nation, כמעצמה עולמית בסייבר. זה משהו שהוא מאוד מאוד חשוב, ולכן גם הסיפור של ההון האנושי אנחנו מתעסקים.

איפה ניתן ללמוד היום את המקצוע הזה שלא במסגרת הצבא?

באוניברסיטה, במכללות, קורסים, אינסוף.

ואתם משתמשים באנשים עם ההשכלה הזאת?

ברור. אנחנו משתמשים הרבה, המגזר הממשלתי משתמש הרבה, בטח ובטח התעשייה, והיום אנחנו מנסים לייצר שיתופי פעולה שיראו את ההמשך מבית ספר, אפרופו פרויקטים נפלאים בפריפריה אם כבר שאלת יש פרויקט שנקרא מגשימים. לפני עשור, אחוז הילדים, אני מדבר בבריכת הסייבר המשמעותית של מדינת ישראל, היו 3% ב-8200, היום הם כמעט 40% וזה שינוי משמעותי, ויש עוד הרבה לאן לתאר, מפאת קוצר הזמן אני - - -

בהקשר של רגולציה שהזכרת, מעבר למודעות, כל הדברים החשובים שציינת, מה ההצעה שלכם לגבי רגולציה לחברות? דיברתם פה על גוגל, אבל אם בסופו של דבר הרבה מהתופעות האלה עוברות גם דרך רשתות, עד שנדון פה על הקלת רגולציה על גופים פרטיים - - -

גם ממשלתיים.

דברים מהסוג שהצעת, הצעת גם על פרטיים.

בעיקר המיקוד כרגע על 500 הגופים הממשלתיים.

הבנתי. כלומר, מה הרגולציה שאתה מבקש מאיתנו? שאמרת אנחנו מבקשים.

אנחנו היום יש לנו רגולציה לתשתית מדינתית קריטית, אנחנו רוצים להרחיב את זה ל-500 הגופים החיוניים במדינת ישראל, הרבה מאוד זה סקטורים ממשלתי, אבל יש גם חברות פרטיות למשל אסדות הגז.

אז קודם כל ההגדרה היא מאוד חשובה. אתה מדבר על חברות ציבוריות שנותנות שירות ציבורי. אסדות הגז היא אמנם חברה פרטית , אבל יש לה משמעויות זה במקרה עניין גם שם סיכון וכו', אז זה מגדיר קטגוריה אחרת. ככל שאתה הולך למישור הפרטי אז זה כמובן ידרוש כאן דיון. אני שואל בהקשר הזה, מה לגבי רגולציה על הרשתות? הזכרת פייסבוק או רשתות חברתיות שגם דרכן נעשות פגיעות סייבר, הרי זה דבר שמדינה, אתה יודע שהמרחב הדיגיטלי שלנו הוא גם מרחב ריבוני ולא צריך להיות הפקר, ומה חשבתם בנושא הזה?

אז כמו שאמרתי, מבחינתנו, הסקטור שכרגע הוא נעדר רגולטור זה הסקטור הטכנולוגי מגזר ה-IT שם לצורך העניין אנחנו רוצים שיהיה רגולטור שיוביל רמת הגנת סייבר באזורים של הארגונים החיוניים באותו סקטור. אנחנו מסתכלים על כל הסקטור, יש את ה-level הגבוה, ושם זו בדיוק השאלה של מה נמצא ב-trash עוד, מה עובר והופך להיות גוף חיוני. גוף חיוני מבחינתו זה גוף שפגיעה בו תהיה פגיעה משקית רחבה עם משמעויות ברמה הלאומית, ולכן אנחנו רוצים, לצורך העניין, לקבוע רמה אחידה של הגנת סייבר לאותם גופים. החשיבות היא, זה מפני תקיפות סייבר. זאת אומרת אנחנו עושים הפרדה מאוד ברורה לגבי תקשורת בין מחשבים, הגנה על מערכות המחשוב באותם ארגונים, לעומת התוכן.

הסייבר חייב להיות דרך רשתות?

כשאתה מדבר על רשתות חברתיות, בוודאי.

אז אני שואל למה שיחה עם הרשתות זה תהליך שמתבצע, מתבצע באיחוד האירופי - - - מאוד משמעותי ב-2020, בואו נפתח את השאלה האם זה לא סותר על הסקטור הציבורי, המשמעויות ביטחוניות לייצר חיוב להגנת ישראל אני שואל האם זה מגיע דרך המעטפת שנקראת רשתות חברתיות, אני לא אומר עכשיו מי בדיוק אחראי ועל מי זה יושת כלכלית, כל זה, זה דיון שצריך לדון עליו בנפרד.

נכון, דיון כבד מאוד.

אבל מעבר לשיחה הזאת, לחייב את הרשתות שפועלות כאן במרחב הדיגיטלי שלנו באיזושהי הגנת סייבר, במסגרת המחויבות שלנו להגן גם על האדם הפרטי, אגב, שלא יגנבו לו את כרטיס האשראי. זה דיון שצריך לעשות אותו, כלומר זה לא מחויב שהם פטורים מזה לגמרי.

חבר הכנסת הלוי אני אגיד לך שני דברים. אחד, יש את פרויקט הנימבוס, זה המעבר לענן של המגזר הממשלתי, גם גוגל וגם אמאזון זכו בו, ויש שם החלטה של הממשלה שה-region שלהם נבנה פה במדינת ישראל כדי לשמור על המידע הרגיש של מדינת ישראל, בתחום תחום הריבונות של מדינת ישראל. זה סוג של, נקרא לזה לא רוצה להגיד לזה רגולציה, יותר מדיניות, שבאנו ודיברנו עם החברות. בהקשר של מול החברות שוב נצטרך לדון בזה, באיזון בין שמירת הפרטיות של בן אדם בעמוד הפייסבוק שלו וברצון שלו להיות בטיק-טוק לבין זה שנטיל רגולציה על החברות האלה. יש דוגמה מצוינת, ארצות הברית לדעתי, הטילה צו נשיאותי, אם אני לא טועה אל תתפסו אותי גם פה על ההגדרה המשפטית, אבל אל מול טיקטוק. שוב, במלחמה שלהם אל מול סין אסרו על השימוש בטיקטוק, שאלה שצריך לדון עליה, אני מסכים איתה.

אני לא דיברתי על לאסור, כי גם להם יש אחריות, יש לדון מה אנחנו משיתים עליהם ומה עליהם, אבל גם להם יש אחריות. לנו יש אחריות גם על הצרכן הרגיל, לא רק על אסדות הגז, שהוא לא יפגע, זה לא עניין של פרטיות, להיפך כדי לשמור על הפרטיות שלו, של האדם הפרטי שלא ייפגע בכרטיס האשראי שלו מפני תוקפי סייבר. אני אומר, האחריות הזאת, ככל שהמתקפות האלה עוברות דרך רשתות חברתיות מותר לנו ואף חובה עלינו גם לדרוש מהרשתות הללו, לקבל על עצמן הגנה מהסוג הזה או לקבוע רגולציה כזו או אחרת. מה קורה? מי צריך לשלם על זה? המדינה? פייסבוק או שנינו? ואיך ומה ומו?

גם פה קורים דברים מצוינים, משרד המשפטים, בשיח עם הרשתות האלה בצורה מאוד צמודה, וכשמזהים מסר פוגעני כנגד מדינת ישראל, יש יכולת לבוא וליצר שיח איתם ולהוריד את העמוד הזה או את הדף הזה בקבועי זמן מאוד מהירים.

היום יש להם הגנה נגד מתקפות סייבר לרשתות עצמן? אם מישהו רוצה לגנוב את כרטיסי האשראי?

כן. יש הגנה מהטובות בעולם.

אני רגע רוצה להשלים את מה שנאמר כאן. השיח מתקיים עם הונדורים הגדולים. זאת אומרת, אנחנו מנהלים את השיח לא אנחנו מערך הסייבר, אלא האורגנים בממשל מי שמוביל את השיח זה מחלקת סייבר פרקליטות המדינה ויש שיח. הבסיס הוא בסיס של שיח וולונטרי, זה צריך בעצם לקיים אחד מיסודות העבירה במדינת ישראל, וזה צריך לענות לתנאי מדיניות אותן חברות ואז פונים ובעצם מבקשים להסיר תכנים שהם פוגעניים, זה לא בתחום המנדט שלנו.

אני אומר לחייב אותם לפני שזה קרה.

אז אני אומר לך מול החשכ"ל, החוזה שחתמו אל מול גוגל ואמאזון זה מאוד ייחודי בעולם. העולם לומד ממנו ומרכיב הסייבר שבו הוא מרכיב מאוד מאוד משמעותי.

תבין שזה לא רגולציה, זה חוזה. מהלכים משפטיים וסטנדרטים ציבוריים, אם אני עושה איתך חוזה, זה ברור שזכותי לעשות מה שאני רוצה בחוזה, בחלק שלי בחוזה. פה אנחנו מדברים לא על חוזה בין המדינה לבין גוגל או אמאזון, פה אנחנו מדברים על מצב שהאם נכון להטיל רגולציה בלי חוזה?

אז אני אגיד לך, יש פרדיגמות מהעולם הפיזיקלי שאתה יכול למתוח אותם לממד הסייבר שהוא יציל אדם, שהוא ממד אחד, יש דברים שיצטרכו פרדיגמות חדשות. אני ממליץ לנו רגע לבוא ולהסתכל, לפעמים המילה חוזה היא טובה יותר מרגולציה, לא יודע אם במקרה הזה, אבל שווה לדון בזה.

במקרה הזה ההסדרה החוזית היא מאוד חזקה. מבינים את המשמעויות והחברות התגייסו בצורה ממשית עד כדי הקמת חברה בת בישראל, זאת אומרת יש לזה משמעויות. אנחנו מנסים לבחון, העולם משתנה, ובתי סייבר זה כבר לא אותו עולם, השחקנים הם שחקנים אחרים.

אנחנו נציגי מדינת ישראל חותמת חוזה עם גוגל, זכותה לכתוב בחוזה, וטוב שעשיתם את החוזה הכי טוב שבעולם שה-regent כאן הכל טוב ויפה. אנחנו מדברים על מצב שאני כאזרח חותם חוזה עם מרק צוקרברג, זה מה שעושים כולם, כללי המדינה הוא מחליט עליהם, אבל מדינת ישראל לא עוזרת לי כאזרח, להטיל רגולציה על מר צוקרברג, באופן שאני לא אפגע, אז אם זה נכון גם בתחום פגיעה בפרטיות, לא רק בפרסום אלא גם בכרטיסי אשראי והסוג הזה, ברור שמדינת ישראל תחיל עליהם רגולציה, לא חוזה של המדינה מולם, אלא רגולציה, אפשר להשתמש במינוח כזה או אחר אבל בגדול זו רגולציה שהמדינה צריכה לשקול אותה כדי להגיע לאזרחים, גם מול רשתות וכל מי שפועל במרחב הדיגיטלי. המרחב הדיגיטלי הוא לא הפקר כמו המרחב הפיזיולוגי.

אני אנסה לדבר למרות שאני קופאת מקור פה בוועדה הזו. קוראים לי עו"ד טל שביב אני יועצת משפטית של החברה למשק וכלכלה של השלטון המקומי, ואני באה טיפה לתת כאן את הפריזמה של השלטון המקומי, כי היינו צריכים לתת מענה ופתרון לרשויות המקומיות, ואנחנו כגוף ביצועי של השלטון המקומי אנחנו מתעסקים עם מכרזים.

אנחנו לאחרונה פרסמנו מכרז משותף עבור כל הרשויות המקומיות במדינת ישראל, למיגון יחידות הקצה של כל עובדי הרשויות וכל מי שעושה שימושים במחשוב של הרשויות. אנחנו יודעים שיש שם אפס מידע על אנשים, גם שפרצו לתשתית של שירביט, ולקחו משם מידע על שופטים או אנשי ביטחון בגלל שהם זכו במכרז המרכזי של המדינה בביטוחי רכב, אז, בואו, בסוף יש אנשים עם רגישויות, הרשויות המקומיות גם מחזיקות במידע כזה, ויש גם דו"חות מבקר המדינה מ-2012 לא אחת, ובכל שנה הוא מתריע. אני דווקא חושבת שדוחות מבקר המדינה זו תוכנית העבודה שלנו.

אז באנו וניסינו ככה לתת איזשהו פתרון בהיעדר פתרון ממשרד הפנים של רגולציה, כלומר, רשות מקומית, אם זה לא יהיה בסדרי עדיפויות שלה למגן את יחידות הקצה, ולא יהיו תקציבים ולא תהיה רגולציה, ולא יהיה פיקוח ולא תהיה בקרה. איזה incentive יש בכלל לעבוד בזה? או להשקיע משאבים בזה? אז רשות מקומית, בסוף עם כל המשימות שיש לה בתוכנית העבודה שלה, היא בסוף בסוף היא תגיע לזה בסוף. אוקיי, כשזה יקרה אז זה יקרה וכולם יתעוררו והכל טוב ויפה.

וגם לגבי תשתית הענן ששם זה עלויות מטורפות וגם על זה צריך לתת תקציבים ולשים את זה בסדרי עדיפויות וגם צריך שתהיה אחידות, איזושהי אחידות, כי כל אחד מדבר בקול אחר, משרד ראש ממשלה בקול אחר, הרשות להגנת הפרטיות בקול אחר, מבקר המדינה בקול אחר. אני באתי משירות המדינה, עבדתי 17 שנים בשירות המדינה, הייתי יועצת משפטית של רשות המים, ואני יכולה להגיד לכם שבסדר, גלגלי הצדק נעים לאט ובסדר ואני מתחברת לכל מה שאמר פה.

מה שחסר כאן זו רגולציה. יש פה גופים שמוזנחים, בסוף זה משתרשר לתושבים, לילדים שלנו, למשפחות שלנו ,למידע שלנו. אנחנו כבר לא פרטיים בשום מקום. אנחנו, במעט שאנחנו יכולים לעשות הבאנו תקציבים של 20 מיליון שקלים, תקציבים של שלטון מקומי, יושב הראש חיים ביבס החליט שאין לו שום כוונה לשבת מנגד ולראות את החשיפה שיש לרשויות בפערי תשתית, ואני לא מדברת על תל אביב, אני לא מדברת על חיפה, אני מדברת על הפריפריה. וגם עיריית תל אביב ככל הנראה תשתמש במכרז שמשכ"ל פרסמה. אז אני רק רוצה לומר שאנחנו מרגישים לבד, עשינו את המהלך הזה כמובן בשיתוף פעולה עם הרגולציה, אבל ככל שתקדימו ותסדירו את כל הרגולציה, פיקוח ובאמת תביאו גם תקציבים לעניין הזה, אז ככה אנחנו נשמור על שלום התושבים. אז תודה על העבודה החשובה.

בסדר הערתך נרשמה. 5 דקות הפסקה.

(הישיבה נפסקה בשעה 10:21 ונתחדשה בשעה 10:26.)

אני מתנצל על ההפסקה. אנחנו ממשיכים. ירון מל"ל בבקשה. יש עוד מישהו שרוצה לדבר?

החשיבות של הגנת סייבר אקטיבית היא ברורה. אני רוצה רק להדגיש ולומר שבמקביל למידול עצום במגוון האיומים, גם מצד אויבים וגם מצד יריבים וגם מצד גופים אזרחיים כמו תוקפים של קבוצות פשיעת סייבר, עם ההתקדמות הטכנולוגית גם הפלטפורמות מאפשרות תקיפות רבות יותר. רק אני יכול לציין את המעבר לרכבים אוטונומיים, והדוגמאות הן אינסופיות, אז צריך לקחת בחשבון שזה משני הצדדים מחדד לנו את החשיבות של הגנת הסייבר לביטחון הלאומי.

מערך הסייבר הוא בעצם מגן על המשק ומגן על תשתיות התקשורת המחשובית בלי להתייחס לתכנים עצמם, ומכאן חשיבותו הרבה גם לרציפות ולהמשכיות התפקודית. וכל זה מחדד את הפער העצום שיש לנו ברגולציה לעומת מדינות מערביות אחרות, ואנחנו בפיגור מאוד גדול, הוא פער מסוכן. והפער הרגולטורי הזה הוא חייב להיסגר גם כדי להסדיר את הסמכויות של מערך הסייבר הלאומי, וגם כדי לאפשר סמכויות רחבות יותר של אכיפה ובקרה על הרגולטורים עצמם.

ולכן, אני קודם כל מברך כעל הכינוס של הוועדה הזו ועל הצגת הנושא כאן, אני חושב שהמסר המרכזי לוועדה הוא הסיוע של הכנסת בחקיקה כמה שיותר מהירה של חוק הסייבר המעודכן, כי מערך הסייבר עשה פה עבודה מאוד יפה ומתקדמת עם יתר גופי הביטחון והגופים הרלוונטיים שבאמת נותנים פה כתף כדי לחשוב על מענה לאומי טוב יותר ולכן הטיוטות המעודכנות שלו צריכות להיות מקודמות כמה שיותר מהר.

אני ליאור מרקוביץ מנהל אגף היערכות לחירום וסייבר מגזרי של משרד התקשורת. אנחנו עובדים מאוד צמוד עם מערך הסייבר ועם השב"כ. יש כ-10 חברות תקשורת גדולות שמונחות על ידי השב"כ והם בכל ההסדרה והקמת המערך, נשארו מוגדרים ומונחים על ידי השב"כ על פי חוק הסדרת הביטחון בגופים ציבוריים. חברות גדולות כמו בזק, הוט וכדומה.

המשרד רואה חשיבות בנושא הסייבר, והקמנו יחידת סייבר מגזרית, רק לאחרונה, ואפרופו רגולציה יש נספח סייבר ברישיונות של חברות התקשורת שמחייב אותן להיערך לאירוע סייבר, לנהל אירוע סייבר ולדווח למשרד כשיש אירוע סייבר כשיש פגיעה בלקוחות יותר מעניינים אותנו הדיווחים האלה. וחוץ מזה יש לנו כבר שלוש שנים מרכז ניתוק שיושב בבאר שבע. המרכז שלנו יושב בבאר שבע ונהנה מעבודה במסדרון, ההפריה ההדדית בין המגזרים נותנת benefit מדהים.

אנחנו כרגע עובדים במערך, במרכז ניטור בצורה וולונטרית, חברות מתחברות אלינו מתוך רצון ומתוך הבנה של היתרון של גוף שרואה את כל המגזר ויודע להתריע לגוף מסוים, אם יש אירוע בגוף אחר. זה הרעיון ואנחנו לאט לאט בסיוע של המערך, ומתקדמים לפלטפורמה מתקדמת יותר שתיתן לנו מרחב יותר גדול ותמונת מצב יותר גדולה, כך שאנחנו מבינים את החשיבות של משק התקשורת בשביל זה אנחנו שם.

אם אני מבין נכון את מה שאתה אומר, אז יש גם רצון של הגורמים של החברות להתחבר.

בסוף אנחנו רגולטור של המשק. החברות, שבמידה מסוימת, חוששות מאיתנו כי אנחנו יודעים לתת קנסות ודברים כאלה, אז יש פה איזה חשש, אנחנו פה בכובע הטוב, אנחנו פה מסתכלים עליהם ועוזרים להם, ויש כאלה שקצת חוששים מזה ועדיין לא אצלנו.

אז אני, החוויה שלי היא אחרת. בסוף, בשיח, הם מבינים, אתה כשאתה חברה אתה רואה את מה שהחברה רואה, מקבלים שכבת הגנה אפרופו טילים, נוספת של הסקטור ומעליה שכבת ההגנה המדינתית, בסוף המידע שיש לנו כמדינה על אויבים, על יכולת לבוא ולהתריע, על טרנדים וכו', זה שווה הרבה מאוד כסף וזה גם מידע שהם לא יכולים להגיע אליו. ולכן, תקשורת למעלה ולמטה והפוך, הם מבינים היטב ולכן הם התחברו.

שלום, שבי יוסי שביט ראש יחידת הסייבר במשרד להגנת הסביבה. אנחנו בעצם אחראים, מנחים, מפקחים, עושים בקרה וגם אכיפה חזקה מאוד ל4,200 גופים במשק. אני אסיט טיפה את הדיון מנושא של שמירת מידע, ואבטחת מידע וזליגת מידע, אני מדבר על מפעלים מסוכנים שנמצאים ברחבי ישראל, שמה שמשותף לכולם שמכילים חומר מסוכן, אם זה חומרים רעילים, נפיצים, דליקים, שמחוברים למערכות מחשוב. השכנים שלנו בצפון כבר אמרו בעבר שהפצצות נמצאות במרכזי אוכלוסייה במדינת ישראל, והם צודקים, וכל מה שנשאר זה להפעיל את הטריגר. ואין נכון מזה.

אנחנו עושים פעילות מספר שנים, אנחנו בעצם זרוע מקצועית, ביצועית של מערך הסייבר, עובדים בצמוד למערך הסייבר, חלק מכיפת הסייבר שגבי דיבר עליה אל מול המפעלים. האתגרים מאוד גדולים כי צריך להבין שהמפעלים האלה שהוקמו לפני 30-60 שנה הוקמו כדי לייצר ולא בשביל להגן בסייבר על עצמם. ואנחנו רואים באמת מערכות מאוד מיושנות, אני מדבר על לפני 5-6 שנים, המצב היום הרבה הרבה יותר טוב.

אנחנו בעצם השתמשנו בכלי מאוד חזק שיש למשרד להגנת הסביבה, שזה היתר רעלים. כל המפעלים האלה מקבלים היתר רעלים אחת לשנה, ובעצם התנאי לקבלת היתר רעלים לחלק מהמפעלים זה העלאת חוסן בסייבר. התחלנו ברגולציית סייבר מאוד קשוחה ביוני 2020 עם המון חששות יחד עם התאחדות התעשיינים, יושב פה משמאלי, בשיתוף פעולה, כי מצד אחד לא רצינו להכביד על המפעלים יותר מידי לייצר, מצד שני כן רצינו להעלות את החוסן. יצאנו באיזושהי רגולציה, והבנו שהיא נכונה והיא טובה.

בתחילת שנה שעבר הרחבנו את הרגולציה ל-1,000 מפעלים נוספים. זאת אומרת על פי כללי הרגולציה אנחנו יכולים להפעיל אותה על 1,000 מפעלים ואנחנו עושים את זה בהדרגה. כאשר הפעילויות לשנה זו, שאנחנו מתכננים לעשות, זה בעצם להרחיב את הרגולציה הזו כמה שיותר מהר. הזמן פועל לרעתנו, אנחנו מבינים את זה, אנחנו צריכים למגן את המפעלים האלה כמה שיותר מהר.

הפעילות השנייה, זה בעצם הקמת SOC תעשייתי. אנחנו מספר שנים מפנטזים לעשות את זה. בסופו של דבר למערך הסייבר הגיע בשנה שעברה גבי ונתן דחיפה אדירה בעיקר בניהול תקציבי, ויחד, שני המשרדים בדחיפה משותפת הולכים להקים SOC תעשייתי. אני מאמין שה SOC הזה יגדל עם השנים. יש לו פוטנציאל של מאות גופים ומפעלים. חשוב להדגיש שחלק גדול מהמפעלים האלה הם גם מפעלי מזון שהם חיוניים למדינת ישראל, יש גופי תחבורה כמו נמלים, יש גופי מים, יש גופים ביטחוניים, תעשיית semi-conductor, אפשר לומר שבעצם כל התעשיות בארץ בסופו של דבר מחזיקות היתר רעלים, כי בסוף כולם מחזיקים חומרים מסוכנים, אפילו מפעלי מזון כמו שטראוס, תנובה, אוסם וכדומה מחזיקים אמוניה. נמלים, אנחנו מבינים שמחזיקים חומרים מסוכנים בכמויות אדירות, מפעלים ביטחוניים וכו', אז אנחנו בעצם המטרה שלנו להקים את ה-SOC הזה.

פן שלישי בכל הפעילות, דיברנו על כאן, נושא של הכשרות. אנחנו מבינים שיש פה עניין של הון אנושי והכשרות של המשק. אנחנו יזמנו פתיחת קורס סייבר לתעשייה, מביאים אנשים מתוך המפעלים, מהנדסי בקרה, אנשים מרצפת הייצור, hard core מהנדסים, חבר'ה טובים, מכשירים אותם, מכניסים לפחות בין מחזור אחד לשניים בשנה, ב-30 באפריל נפתח המחזור החמישי. אני חייב לומר שכל מחזור כזה, מצטרפים 50 איש. המחזור מתמלא במהירות, המחיר הוא סמלי, בעצם העלות היא אנחנו נותנים את זה בחינם, התאחדות התעשיינים גובה איזשהו סכום סמלי, ואנחנו מוציאים למשק בין 50-100 אנשים שחוזרים, מבינים את האיומים, מבינים מה הם צריכים לעשות והם בעצם השגרירים שלנו בתוך התעשייה. עד כאן.

אדוני יושב הראש, תודה על הזמן. אני רון גלמה, אני דירקטור פורום חברות הסייבר הישראלי בתוך התאחדות התעשיינים, בהובלתו של ליאור פרנקל. הפורום קם לפני שנתיים על מנת לתת מענה למפעלים ותעשיות בישראל. וכמו שיוסי כמובן הזכיר, אנחנו עובדים בשיתוף פעולה עם המשרדים הממשלתיים, ובמיוחד עם המשרד להגנת הסביבה, וכמובן עם מערך הסייבר שלאחרונה הוצאנו סקר אל תוך התעשייה על מנת לראות מה התעשייה חושבת על מוגנות סייבר.

אני יכול להגיד לך שלא נדהמנו לגלות שלא כולם משקיעים בזה את זמנם, ורק כשהמקל מגיע, הוא מגיע עם הרבה מאוד כוח, ואנחנו לא רוצם להגיע למצבים האלה. וכן, רגולציה תעזור מאוד מאוד לתעשייה, ואנחנו בעד, ואנחנו נשמח להיות חלק מאוד פעיל בעניין הזה, ואנחנו כאן לרשותכם. זה באמת זמן טוב להגיד תודה למערך הסייבר על השיתוף פעולה ואנחנו מצפים להגדיל אותו גם.

בוקר טוב לכולם, קובי כהן ממשטרת ישראל. אני שייך לחטיבת הסייבר במשטרת ישראל. ורציתי להתייחס קודם כל לשיתוף הפעולה שהמשטרה זוכה לו ממערך הסייבר הלאומי בהרבה מאוד תחומים ומישורים, החל בפן האופרטיבי-מבצעי שזה בחילופי מידע, מודיעין ובדברים אופרטיביים שמתנהלים במשותף, עובר לשיתופי פעולה בתחום של בניין הכוח, החל מהדרכות והכשרות של כוח אדם, דרך בניית אסטרטגיה משטרתית שאנחנו עושים ביחד עם מערך הסייבר ובסיוע שלו, כל התחום של מודעות והסברה שאנחנו עושים במשותף לטובת האזרחים והחברות בישראל, כדי להגדיל ולהגביר את החוסן של האוכלוסייה בישראל, ושל החברות מפני מתקפות סייבר.

אני מברך על היוזמה של מערך הסייבר לרכז את כל בעלי העניין הרלוונטיים להתמודדות עם פשיעת סייבר תחת קורת גג אחת. אנחנו חושבים שזה מאוד מאוד אפקטיבי, מאוד חשוב, הפעילות הזו של מערך הסייבר, לקחת את היוזמה, לאסוף את בעלי העניין, להושיב אותם יחד במקום אחד בבאר שבע, זה עושה שינוי, ואנחנו מרגישים את זה כשינוי לטובה. ושאפו גדול למערך. מילה אחרונה לגבי הצורך ברגולציה, אני מצטרף לכל מה שנאמר כאן, לא יכול להיות שאין חוק שנותן סמכויות למערך, אין רגולציה שמפקחת, זה חוסר גדול מאוד שצריך לגשר עליו בהקדם האפשרי. תודה.

אתם מדברים פה הרבה על רגולציה. יש צפי מבחינתכם מתי זה אמור להגיע כאן לשולחן הכנסת?

אנחנו מאיצים את העבודה מכיוון שבאמת כמו שנאמר כאן, אנחנו חייבים להתקדם כמה שיותר מהר, מבחינתנו, כל יום שאין כבר איזושהי טיוטה אנחנו בעצם בהליכה לאחור. התהליך הוא גיבוש טיוטה ומכיוון שאנחנו עובדים בשיתוף פעולה עם הרגולטורים, אנחנו נצא לסבב בזק מול הרגולטורים כדי לטייב ולענות על הצרכים, ומשם זה כבר בתקווה שזה יעלה לממשלה.

אז שוב, אני רוצה עד הקיץ להעמיד משהו.

חברים, אני נאלץ פה לעצור, ולהודות לכם על המאמץ להגיע לפה היום. וגבי, תודה רבה על הסקירה, לך ולצוות שלך, זה בהחלט משהו חשוב. תראו, אין שום ספק שהאיום הזה ילך ויתגבר. בגלל הפוטנציאל שיש לו למי שרוצה להסב נזקים או לתקוע תהליכים או לפגוע בטכנולוגיות, בהחלט מרחב הסייבר הוא מרחב שאין לו דם, אין לו עשן, אין לו אש, מה שמאוד רלוונטי בימים האחרונים לצערי הרב, ולכן, הוא כנראה מאוד פופולרי להפעלה. הרבה אנשים תלויים ביכולת השכלית שלהם, ולא בכלי הנשק שאיתו אנחנו צריכים להסתער, ולכן אני מניח שאיום הסייבר ימשיך להוות איזשהו מוקד עיסוק של כולנו.

אני מאוד שמח לשמוע על היכולות של המערך, ועל ההגנה שהולכת ומתממשת פה. אהבתי את הדימוי של הכיפה, בהחלט משהו שמדבר אלינו בשפה משותפת, לא רק לדתיים או לחרדים בינינו, אלא גם לאלה שמדברים בשפה של כיפת ברזל. אנחנו נצטרך להשלים עוד קצת ידע בתחומים האלה, בעיקר עם משטרת ישראל וגורמי המודיעין האחרים, להיכנס קצת יותר לעומק לדברים אחרים שמגיעים לעולם הסייבר, אבל את זה נראה איך אנחנו עושים בדרך אחרת. אני רוצה לומר לכם שאנחנו, הוועדה ברשותי, ברשותכם, תגידו במה אפשר לעזור לכם. גם בתחומים התקציביים שדיברו עליהם, כולל ברשויות המקומיות, גם לכם, גם בתחומי החקיקה, תנצלו את זה. אנחנו גורם מפקח מבקר, אבל אנחנו גם יודעים לעזור. אז תנצלו את זה כי חשוב מאוד שנוביל את התהליכים האלה. אני מניח שהמל"ל ייתן לנו גיבוי שמקומות שצריך לטובת העניין ונניע את זה הלאה, המערך הזה חשוב ואמרת בקיץ, אז יש לנו יעד למפגש הבא. תודה רבה לכולם.


הישיבה ננעלה בשעה 10:37.