פרוטוקול של ישיבת ועדה

הכנסת העשרים-וחמש

הכנסת



27
ועדת החינוך, התרבות והספורט
19/05/2025


מושב שלישי



פרוטוקול מס' 427
מישיבת ועדת החינוך, התרבות והספורט
יום שני, כ"א באייר התשפ"ה (19 במאי 2025), שעה 12:55

1. הצורך במנגנוני בקרה ופיקוח על יישומי בינה מלאכותית במערכת החינוך
של חה"כ צגה מלקו, חה"כ מתן כהנא, חה"כ משה טור פז
2. תופעת השימוש בAI בקרב תלמידים

חברי הוועדה: סימון דוידסון – מ"מ היו"ר
צגה מלקו

אביגדור דנן - סגן בכיר ליועצת המשפטית, משרד החינוך

קובי רפאלי - מנהל חטיבת יישומי טכנולוגיה בחינוך

טל שריר - ממונה הסדרה, המנהל לחינוך טכנולוגי, משרד החינוך

אסף יונוביץ' - עו"ד, ייעוץ וחקיקה חוקתי, משרד המשפטים

יוסף גדליהו - מנהל, המרכז למדיניות בינה מלאכותית, משרד החדשנות, המדע והטכנולוגיה

רינת בניטה - מרכז המחקר והמידע של הכנסת

לירון כרמלי - מנהלת, אגף חינוך, רווחה וצעירים, מרכז השלטון האזורי

מיכל זכריה - נציגת מועצת התלמידים והנוער הארצית

ארי ברומברג - נציג מועצת התלמידים והנוער הארצית

נטע גורי - מקדמת מדיניות וקשרי ממשל, איגוד מרכזי הסיוע לנפגעות ולנפגעי תקיפה מינית

מקסים ווקסלר - CTO, מאירים.ישראל

ד"ר טל גרינפלד - ראש תחום חינוך, מרכז יכין

נגה ארבל - ראש תחום מדיניות יישומית, מרכז יכין

ד"ר אלי רון - מנכ"ל, מדען ראשי, חברת מקוריות בע"מ

אבישי שטכלברג - מנהל מוצר, פסיק ספרים וטכנולוגיה בע"מ

יובל גת - הורה

צבי שלם - הורה

ד"ר חנה קטן - אימהות הלוחמים

אדורה אלעיס - מנהלת תחום חינוך, המטה הלאומי להגנה על ילדים ברשת, משרד החינוך

עמרי בן חורין - מנהל קשרי ממשל ומדיניות ציבורית, גוגל ישראל

ד"ר רועי יוזביץ' - ראש המעבדה לבינה מלאכותית יישומית, אוניברסיטת אריאל

צח בן יהודה

אתי דנן

נועם כהן, חבר תרגומים


‏‏רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות.


הצורך במנגנוני בקרה ופיקוח על יישומי בינה מלאכותית במערכת החינוך, של חה"כ צגה מלקו, מתן כהנא, משה טור פז (מס' 402).

תופעת השימוש בAI בקרב תלמידים

צוהריים טובים, אנחנו מתחילים דיון לבקשת חברת הכנסת צגה מלקו, חבר הכנסת מתן כהנא, וחבר הכנסת משה טור פז – הצורך במנגנוני בקרה ופיקוח על יישומי בינה מלאכותית במערכת החינוך. הנושא הוא תופעת השימוש ב-AI בקרב תלמידים. אני אבקש מחברת הכנסת מלקו להסביר את בקשת הדיון, בבקשה, חברת הכנסת.

תודה, אדוני היושב ראש. שלום לכולם. הפנייה שפניתי הייתה לפני שיצאנו לפגרה במושב הקודם, כי כמה מהפרופסורים, אנשי חינוך, פנו אליי בנושא של AI. היום טכנולוגיית AI, מי לא משתמש? כמעט כולם משתמשים, ומהפכה גדולה התחילה בעולם. יש כאלה שאומרים שזה לטובה, יש כאלה שאומרים שאם לא משתמשים בבקרה זה גם יכול להיות כל כך מסוכן.

משרד החינוך אפשר כמובן לתלמידים להשתמש. היו כמה נושאים באותם ימים, אפילו אני בדקתי, למשל לגבי 7 באוקטובר, מה שהתרחש, מה שקרה לנו בטבח, מי אחראי לזה, אפילו עד כדי כך שלא ציינו כמה בוטים לגבי חמאס כארגון טרור, זה מה שהיה. לכן אני אומרת, השימוש כל כך חשוב, אבל יחד עם זאת, אם אין פיקוח, אם אין בקרה, הנזק יהיה עצום.

לכן אני חושבת שהוועדה צריכה לדון בעניין, ונשמע גם כמובן מאנשי מקצוע בעניין. הנושא כל כך חשוב, כי בלתי נמנע השימוש הזה, אבל השימוש גם צריך להיות עם פיקוח ולפעמים אנחנו רואים את הטכנולוגיה הולכת קדימה והחקיקה נשארה מאחור, ומה עלינו לעשות. לכן אני מבקשת באמת כי הוועדה תקיים דיון מקיף בנושא ותגבש מדיניות ברורה שתסדיר את מנגנוני הפיקוח והבקרה לפני שיהיה מאוחר מדי.

מאה אחוז. תודה רבה, חברת הכנסת מלקו. אנחנו נעבור לזהבית גרוס.

היא יצאה מהחדר, אני אשמח לדבר. אני אימא ללוחמים ולא נתנו לנו לדבר בישיבות הקודמות.

בבקשה.

תודה רבה. אני באה בשם אימהות הלוחמים, שמי ד"ר חנה קטן, אני רופאה במקצועי, אבל בשנה ושמונת החודשים האחרונים אני מתעסקת עם הבנים הלוחמים. יש לי אישית עכשיו שישה לוחמים בקרב ושמונה לוחמים סך הכול. יש לי עשרות נכדים שהאבא שלהם לא בבית במשך שנה ושמונה חודשים כי האבות, ברוך השם, לקחו לעצמם את הזכות הגדולה להיות חיילים קרביים, לא מוכנים לוותר על זה, גם בגיל 40 וגם בגיל 42 וגם בגיל 44 וגם אבות לשמונה ילדים ותשעה ילדים ועשרה ילדים. הנה, הבת שלי, ברוך השם, ילדה אתמול במזל טוב את הילדה העשירית והבעל שלה בעזה.

אנחנו רוצים לומר עכשיו משהו מאוד ספציפי, מאוד אקטואלי, שקשור להחלטה על הסיוע ההומניטרי, ואני אגיד את זה בקצרה כדי לא להפריע לוועדה יותר מדי, אני יודעת שיש הרבה דוברים שעושים את זה, אני אשתדל שלא. לגבי הנושא של הסיוע הלא הומניטרי שמדובר עליו, הצבא שלנו הוא הצבא הכי מוסרי, הוא עובד על פי אמות מידה יתר מידה מוסריות, ולכן הוא גם מסכן חיילים, הוא מסכן גם חטופים בגלל זהירות היתר הזו.

אבל בכל מקרה, הנושא של סיוע הומניטרי הוא לא מוסרי, זה בלבול מוסרי. יש אויב, האויב הזה משתמש באזרחים כמגן אנושי, זו אסטרטגיה כדי להכניע אותנו וכדי לא לתת לנו לנצח. האויב הזה הוא זה שאחראי להאכיל את האזרחים בעזה, אותם אזרחים שהם אומנם אויבים וכולם חמאסניקים כמו שאנחנו יודעים, ובכל מקרה, מי שאמור להאכיל אותם אלה לא אנחנו, אלה הם, והם צריכים לפרוק את נשקם והם לא עושים את זה. הם לוקחים על אחריותם שהאזרחים לא יקבלו מזון. זו לא הבעיה של מדינת ישראל. וככל שאנחנו ניתן להם מזון, אנחנו נחזק אותם ונסכן את חיילינו. אני רוצה רק להקריא את המכתב שכתבנו היום בבוקר לראש הממשלה, מר בנימין נתניהו.

אנחנו, אימהות ללוחמים, שלחנו את ילדינו להילחם ולנצח, מזועזעות מהחלטתך להכניס לאויב הרצחני עזרה. החלטה זו מסכנת את חיי בנינו לוחמים ועומדת בניגוד מוחלט לכל הבטחותיך, ניצחון מוחלט, חיסול החמאס, וכמובן החזרת החטופים, זה ברור, על זה לא צריך לדבר, פדיון שבויים זה הדבר הכי חשוב בכל הציבורים ועל זה יש קונצנזוס. ילדינו נלחמים בעוז ובגבורה גם בשביל החטופים וגם בשביל הניצחון, ואנחנו בבית לא ישנות מרוב דאגה.

לא העלנו בדעתנו ששוב הממשלה ששלחה אותם לקרב תחזור לטעויות העבר ותחשוב להעביר סיוע לאויב. סיוע לעזתים מסכן את הלוחמים, מרחיק אותנו מהמטרה של השבת החטופים, מחליש אותנו, האימהות והעם בישראל, אנחנו שעומדות מאחור ונותנות לילדים שלנו גב וכוחות. לא יכולות לומר להם שהמשימה שלהם היא נעלה וחשובה כשראש הממשלה שולח אותנו למלחמה ותוקע מקלות בגלגלי הלחימה. אנחנו, אימהות הלוחמים, דורשות לחזור בך מההחלטה האומללה לסכן את חיי ילדינו למען רווחת האויב. משימתם ניצחון מוחלט.

וצריך לזכור שהתורה הקדושה שלנו כותבת, כל המרחם על אכזרים מתאכזר לרחמנים. אנחנו אמורים לעבוד על פי הכללים של תורתנו הקדושה, זו מלחמה שהיא מלחמת קודש, ובעזרת השם נעשה ונצליח.

רציתי להוסיף שחוג הפרופסורים לחוסן לאומי מצטרף לקריאה של ד"ר קטן.

תודה רבה. עמרי בן חורין נמצא פה? בזום. אם יש פה אנשים שרוצים וירצו לדבר והם לא רשומים, נא לעשות את זה. בבקשה, עמרי.

צוהריים טובים ותודה גם על העלאת הנושא לדיון וגם שיש אפשרות להתייחס. עמרי בן חורין, מנהל קשרי ממשל בגוגל. אני חושב שכשמדברים על בינה מלאכותית בחינוך ובפרט על השימוש, צריך להתייחס לכמה רמות של שימוש. כולן דורשות התייחסות, כולן דורשות פיקוח, וכולן דורשות הטמעה בצורה בטוחה, מושכלת ומדודה.

יש את השימוש היום של ילדים, ילדים עושים שימוש בבינה מלאכותית, בין אם בבית ובין אם בבית הספר. הם עושים את זה בכלים שבית הספר מנגיש להם והם עושים את זה בכלים שבית הספר לא מנגיש להם, וזאת עובדה. וכמו שאנחנו עושים את זה, הם הולכים הביתה למחשב של ההורים, למחשב שלהם ומשתמשים. ולכן הדבר הראשון זה שצריך לתת להם את ההבנה איך להשתמש.

וכשאני אומר איך להשתמש, אני לא מתכוון איך לכתוב פרומפט או איך לכתוב שורה, כי את זה הם יודעים איך לעשות והם ידעו איך לעשות. אני מדבר על איך להבין מה הם עושים, איך הבינה המלאכותית נותנת להם תשובות, מה היא לא יכולה לעשות, מה היא לא יכולה לעשות טוב ואת העובדה שהם צריכים לקחת אחריות על מה שהם עושים ועל התוצרים שהם מוציאים ממנה.

הדבר השני אגב זו הערכת עבודות, התוצרים שלה. המערכת צריכה, והמערכת מבינה את זה פחות או יותר, שהיא לא יכולה למדוד תלמידים כמו שהיא מודדת פעם. היום אתה הולך וצריך לעשות עבודה בהיסטוריה, אתה לוחץ כמה מילים על פרומפט, מקבל עבודה מוכנה. איפה היכולת לקחת מקורות? איפה היכולת לבנות טיעון שיש לו התחלה, אמצע וסוף? זה חשוב, זה כישור שאי אפשר להרשות שתלמידים לא ירכשו אותו במהלך הלימודים. אבל אם אנחנו נתעלם מזה ולא ניתן לזה את הדעת ונגיד שצריך להעריך בצורה אחרת, אנחנו נעשה להם עוול.

והדבר השלישי, וזה קצת מתקשר לנושא, אלה הכלים שאנחנו מכניסים לשימוש פדגוגי דרך המערכת בצורה ממוסדת. לדוגמה, אותם צ'אטבוטים שדובר עליהם. אחת, צריכים ללמד את המורים. המורים הם אלה שבסוף יעבירו את הידע הזה ומפקחים על התלמידים ונמצאים איתם בקשר, ולכן הם אותם גורמים שצריכים לקבל את הידע וצריכים להשקיע בו. והדבר השני הוא באמת שימוש מערכתי. יש הרבה כלים של בינה מלאכותית מכל מיני סוגים. יש כלים שיכולים לקחת ילד והוא יעשה איתו מסע מחקרי, יש כלים שידעו לעזור לילד לכתוב ולקרוא ולעשות תרגילים ולחולל שאלות במתמטיקה בהתאם לרמה. וכשאנחנו מכניסים כלים כאלה, כשמערכת מכניסה כלים כאלה, אכן היא צריכה לעשות את זה בצורה אחראית, לעשות עם בקרה, עם פיקוח ובצורה מדודה.

ואחרי כל מה שאמרת, משרד החינוך נמצאים פה, בטח הם יאמרו את דבריהם עוד מעט, איזה קשר יש לכם כגוגל עם משרד החינוך?

זה מתחלק לכמה רמות. אחת, במסגרת מכרז נימבוס, מכרז הענן, אנחנו מספקים תשתיות למשרד החינוך ועל בסיסן הוא בונה, הוא מספק שירות והוא יכול לתת - - -

לא, אני מדבר על הנושא של בינה מלאכותית.

כן, זה בדיוק זה. בין השאר אנחנו מנגישים את הצ'אטבוט שלנו, את מודל השפה Gemini, והיום, גם Gemini Under 18, שזה מודל שפה שמותאם לילדים, ובמסגרת החשבונות שמשרד החינוך רכש לכל התלמידים של מדינת ישראל זה כבר קיים בפנים. וזה מודל שפה שמותאם לילדים ויש כל מיני הגבלות שאין לי ולך כמבוגרים כמו זה שהם לא יכולים ליצור תמונות, יש הגבלת מסמכים, יש מסנני תוכן יותר נוקשים ודברים מהסוג הזה. אלה מוצרים שאנחנו נותנים. יש המון מוצרים, אם ננהל את הדיון הזה עוד שנה, יהיו אינספור מוצרים יותר.

אבל הדרך היא חשובה, והדרך היא אחת, לא לפחד מהטכנולוגיה, הטכנולוגיה נכנסת, צריך להטמיע אותה, צריך להשתמש בה, להבין את ההזדמנויות הבאמת אדירות שהיא נותנת, אבל צריך לעשות את זה בצורה אחראית, ואם לפעמים צריך לקחת אחורה ולבדוק את עצמנו עוד פעם, צריך לעשות את זה. אנחנו היום עובדים עם משרד החינוך ובכל מערכת שהם רוצים להטמיע, עושים את זה בצורה איטית כדי שיבדקו שהיא נותנת את המענה הנכון.

אגב, זה לא רק לתשובות לא נכונות או תשובות שמרגיזות את כולנו או תשובות שהן לא מקובלות, אלה גם שאלות של פרטיות, אלה שאלות של בכלל תשובות נכונות, אלה שאלות של פדגוגית האם אתה נותן את התשובה הנכונה לתלמיד או לא. יש הרבה מאוד שאלות שלכולן צריכים לתת מענה מעבר לאותן תקלות שתיארתם יותר מוקדם.

אוקיי. עמרי, תודה רבה. יש לנו פשוט עוד הרבה מאוד דוברים פה, אני אשמח שתישאר בזום כי יכול להיות שנחזור אליך. תודה רבה. אנחנו נעבור לנטע גורי, בבקשה.

נטע גורי מאיגוד מרכזי הסיוע לנפגעות ולנפגעי תקיפה מינית. אני רוצה לנצל את ההזדמנות בדיון הזה כדי להאיר נקודה שפחות מקבלת התייחסות, לפחות בדיון היום, וזה הקשר בין בינה מלאכותית, חינוך למיניות, ופגיעות מיניות ברשת. זה חשוב לדבר על פיקוח ובקרה, אבל האמת היא שלא משנה כמה ננסה לפקח, אין לנו באמת דרך לעקוב אחרי כל שימוש וכל אפליקציה של הילדים, ולכן לצד כל מנגנון טכנולוגי, אנחנו צריכים להשקיע בחינוך. לא לחסום את המנגנונים, אלא ללמד את התלמידים איך להשתמש נכון ב-AI, אבל גם לשאול עליו שאלות. לדוגמה, איך אני יודעת שמה שהכלי אומר הוא נכון, איך אני מזהה אם יש כאן איזושהי הטיה גזעית או תרבותית, איך אני לא מקבלת כל דבר כמובן מאליו.

למעשה, אנחנו רואים עלייה בפגיעות מיניות שמתרחשות דרך טכנולוגיה, גם ברשתות החברתיות, בהפצה של תמונות ושמועות, כמו שראינו לאחרונה בפרשה של מרכז בידור. וזו למעשה הסיבה שצריך לשלב בין חינוך לטכנולוגיה לבין חינוך מיני ומגדרי אמיתי, כזה שמדבר על גבולות, על הסכמה, על מיניות בריאה וגם על מרחב דיגיטלי בטוח.

אנחנו באיגוד מרכזי הסיוע, אנחנו פוגשות את זה יום-יום, גם בסדנאות שאנחנו מעבירות, גם בשטח, וגם במחקרים שאנחנו עושות בתחום, אבל בסוף האחריות היא מערכתית. האחריות היא לא רק עלינו, זה דורש שיתוף פעולה אמיתי גם מצד משרד החינוך, כי הידע והניסיון, בסופו של דבר הוא קיים, אבל כדי שהוא באמת יחלחל ויוביל לשינוי הוא צריך להיות חלק מתוכנית כוללת.

ולפני סיום, חשוב לי להגיד שדווקא בגלל מה שאמרתי אני לא חושבת שצריך לפחד מה-AI או לנסות להרחיק אותו ממערכת החינוך, להפך, הכלים האלה יכולים להיות משאב אדיר - - -

לא, הכוונה לא להרחיק, הכוונה כן להשתמש בו, טכנולוגיה זה חשוב, אנחנו לא יכולים גם למנוע את זה, אותו דבר היה בכל הרשתות החברתיות בהתחלה, בפייסבוק, מה שנרצה. אבל איך אנחנו נשתמש בו בפיקוח? למשל, כשאני הגשתי את הדיון לפני כמה חודשים, ראינו, בדקנו את זה, מה זה ארגון חמאס? לא הגדיר אותו כארגון טרור. והיום, אני בדקתי, היום תיקן, גם המערכת יודעת לתקן את זה. השאלה פה היא איך אנחנו נשתמש בו בצורה משכילה. וגם פה מדובר בילדים ולא מדובר במבוגרים. זה חשוב, זה לא שלא נשתמש בו, חשוב להשתמש בו.

נכון, אני מסכימה. אני חושבת שבאמת התשובה טמונה בסדנאות ובחינוך של ביקורתיות ולשאול איך אנחנו יודעים שמה שאנחנו מקבלים הוא נכון, איך אנחנו מבינים אם יש פה הטיות. ובסופו של דבר, אני חושבת שבשביל שזה יעבוד צריך לצייד גם את התלמידים וכמובן גם את המורים בכלים האלה. תודה רבה.

תודה רבה. אנחנו נעבור למחלקת המחקר של הכנסת, לרינת, לתת סקירה על הנושא. בבקשה, רינת.

צוהריים טובים, שמי רינת בניטה ממרכז המחקר והמידע של הכנסת. מסמך סקירה משווה שאנחנו עשינו לבקשת ועדת המדע והטכנולוגיה ופורסם כבר בפברואר' כך שיכול להיות שמאז עוד חלו שינויים, במסמך הזה אנחנו סקרנו את ההטמעה של מערכות בינה מלאכותית במדינות שונות וגם הזכרנו את ישראל בדיוק בשלב שבו היא התחילה את המהלך הזה של הטמעת AI בחודש פברואר.

צריך להגיד שלטוב ולרע ישראל היא בין המדינות הראשונות שהניעו את המהלך הזה של הטמעת מערכות של בינה מלאכותית במערכת החינוך בצורה ממוסדת, וזה באמת טומן בחובו גם הרבה מאוד הזדמנויות וגם הרבה מאוד אתגרים. AI נמצא כאן כדי להישאר, הוא הולך ונהיה יותר רווח בשימוש בכל הסקטורים וכמובן גם בתוך מערכת החינוך.

אני לא אתייחס ספציפית לעניין הצ'אטבוטים והתשובות שלהם לשאלות כאלה ואחרות כי זה כאמור גם דבר שהוא מאוד, מאוד דינמי, אבל אני כן הייתי רוצה לתת איזשהו מבט על מה עושות מדינות ואיך הן מטמיעות את הטכנולוגיה הזאת בתוך המערכת. מהסקירה שאנחנו עשינו ראינו שיש שתי מדינות בלבד שהן מאוד מוטות טכנולוגיה שכבר הטמיעו בצורה רחבה שימוש בכלים של AI בתוך מערכת החינוך הציבורית.

הראשונה היא סינגפור, שמשלבת באופן פעיל בינה מלאכותית במערכת החינוך שלה כחלק מאסטרטגיה לאומית של בינה מלאכותית. וזה מתבצע בתוך איזושהי מערכת שהתלמידים עובדים בה שנקראת SLS, זו מערכת הלמידה הממשלתית ובשיתוף פעולה עם AI סינגפור, מיזם לאומי שלהם. וכמה מהיוזמות הן שימוש במערכות האלה כדי לאפשר למידה שהיא יותר מותאמת, למידה שהיא אדפטיבית. תלמידים שהם מהירים יותר, תלמידים שהם איטיים יותר, כל אחד מהם מקבל יותר תגבור, פחות תגבור, בהתאם לחומרי הלימוד. יש עוזרי משוב למידה, כמו שהוזכר כאן קודם לכן, לעניין ההערכה של ביצועים. והכול מתוך מטרה להקל על עבודתו של המורה ולאפשר למידה שהיא מותאמת לתלמידים.

בתוך כל זה חשוב להדגיש את הנושא של הכשרת המורים, שלדעתי גם הוא הוזכר פה, לעניין של שילוב שיטות של בינה מלאכותית בשיטות ההוראה. זו נקודה שבדיון שהתקיים בפברואר הוזכר ששווה להתעכב עליה, איך מכשירים מורים בישראל ובעולם של בינה מלאכותית, הן במכללות, הן מורים קיימים. הלומדה שהמערכת ביקשה מהמורים להיכנס אליה היא משהו שהוא עצמאי, אבל יכול להיות שהוא לא מספק. זה לעניין סינגפור.

אבל לא בדקתם מה קורה, באמת במשרד החינוך, נכון? האם זה טוב, לא טוב, מה צריך לשפר.

המסמך הזה נכתב ופורסם כבר בפברואר, טרם הכניסה.

טוב, עכשיו יש לנו גם במשרד ראש הממשלה סגן שר שצריך לטפל בנושא הזה, זה בטח יתקדם. יש פה נציגים של משרד ראש הממשלה? לא?

אני נציג משרד החדשנות, המדע והטכנולוגיה, כיום, בהתאם לסמכויות הממשלה הנוכחיות, אנחנו מובילים את התחום.

אם כך, מה זה אלמוג כהן?

אני מעדיף, ברשותך, היו"ר, לא להתייחס לשאלה בצורה כזו. זה בהתאם לסיכומים - - -

סגן שר שאחראי על בינה מלאכותית.

אני אגיד ככה, התשתית הקיימת היום היא שתי החלטות ממשלה, 1212 משנת 2021, והשנייה, 173 מ-2023. שתיהן מתייחסות למשרד החדשנות, המדע והטכנולוגיה כמוביל את המדיניות הממשלתית בתחום הבינה המלאכותית בישראל.

עוד מעט נגיע אליך, ניתן לרינת לסיים. אם תוכל לברר לי מה זה אומר אלמוג כהן בזמן הזה, אני אשמח.

אני אמשיך. בדרום קוריאה הוכרזה כבר ב-2019 מדיניות חינוך בינה מלאכותית, ושם באמת התחילו במהלך של כיתה מקוונת ובהטמעה של ספרי לימוד מבוססי AI. זאת אומרת, חומרי הלמידה עצמם מבוססי AI, תלמידים שירצו להעמיק בחומרים מסוימים, זה יתאפשר להם. זה איזשהו מהלך שהוא הדרגתי שנועד להתקדם במגוון של תחומי לימוד מתוך מחשבה של למידה מותאמת אישית לכל תלמיד בהתאם לקצב הלמידה.

אלה שתי המדינות היחידות שבהן מצאנו שההטמעה מתבצעת בצורה מערכתית, כללית, בכל מערכת החינוך הציבורית. בהקשר הזה אולי אני אגיד שישראל היא מקרה ייחודי בעולם, שיש בה ארבעה זרמי חינוך שהם שונים זה מזה וגם משרד החינוך בעצמו הקים צ'אטבוטים שהם שונים ומותאמים. מתוכם, זרם החינוך החרדי הוא ברובו פרטי. זאת אומרת, יש כאן גם מורכבויות, אבל מורכבויות קיימות בכל העולם, כי גם מערכות חינוך שונות בעולם הן לעיתים מבוזרות יותר ולעיתים ריכוזיות יותר, כך שצריך להסתכל על זה בקונטקסט היותר רחב.

רוב המדינות בעולם עדיין, כאמור, לא הטמיעו בצורה רחבה, ועסוקות בשאלות רחבות של אתיקה, של הוגנות, של הכלה, של שוויוניות, של איך אנחנו מנגישים את הדבר הזה גם מבחינת התשתית, שזה גם משהו שבישראל יש פערים גדולים מאוד. יש בתי ספר שלמים שאין להם נגישות בכלל לתקשורת אלחוטית, לאינטרנט, אין מחשבים מספקים. זאת אומרת, זו סוגיה שהיא גם מאוד משמעותית. בבריטניה ההחלטה האם ובאיזה אופן להטמיע שימוש של טכנולוגיות AI נתונה לשיקול הדעת של כל מוסד, אין הנחיה שהיא מהשלטון המרכזי.

באוסטרליה, בדצמבר 2023, פורסמה תוכנית לאומית ל-AI בחינוך שמבוססת על שישה רכיבי ליבה ומפורקת ל-25 עקרונות. היא אומצה על ידי שרי החינוך של המדינות השונות באוסטרליה, והיא מתמקדת כרגע בהכשרה של צוותי ההוראה. כמו שאמרתי קודם לכן, הסוגיה הזאת של הדרכת התלמידים בסוגיות של שימוש, של אוריינות דיגיטלית, באמת בהתאם לרכיבי הליבה ופחות הטמעה בפועל בכיתות, פחות השימוש ממש של הילדים, זה פחות הדגש שקיים באוסטרליה.

בקנדה גם כן, החלוקה היא לפי פרובינציות וכל פרובינציה היא סוברנית להחליט בעצמה האם, באיזה אופן, וכמה היא מטמיעה AI. צריך להגיד שגם יש הבחנה בין בתי הספר היסודיים, כיתות אחת עד שש, לעומת חטיבות ותיכונים, כשבתיכונים הרצון הוא לאפשר כמה שיותר אוריינות וכמה שיותר להיות בחזית הטכנולוגיה של יישום של בינה מלאכותית ושל פיתוח של בינה מלאכותית, שבזה אנחנו פחות עוסקים במסמך הזה, אבל זה גם משהו שמדינת ישראל צריכה לקחת אותו בחשבון אם אנחנו רוצים להיות בחזית של הדבר הזה, בהמשך להתפתחויות שקורות היום במזרח התיכון זה משהו שצריך להיות עליו עם קשב.

בישראל, כמו שאמרתי, באפריל 2024 משרד החינוך והמכון למחקר בינה מלאכותית השיקו איזושהי טיוטה של תוכנית לאומית, ובפברואר הושקה התוכנית המשרדית. שאלות שאפשר לשאול בנושא הזה הן לא רק שאלות של תוכן, אלא גם שאלות של צורה. הרבה מהמיזם הזה מבוסס התנדבות של עובדי היי-טק, וזו השאלה, אם אפשר להחזיק את הדבר הזה לאורך זמן ובהתלהבות הסוחפת של ההתחלה, האם היא תימשך לאורך שנים. מה המעורבות של ההורים בתוך העניין הזה, עד כמה הם מודעים, עד כמה הם מקדמים, עד כמה יש נגישות לתלמידים באמת להשתמש בבינה מלאכותית בצורה מושכלת תוך חשיבה ביקורתית ושימוש - - -

עדיין מתנהל בהתנדבות?

כל המיזם הזה של מנטורינג הוא מיזם מבוסס התנדבות, הוא לא מיזם שמשרד החינוך מתגמל עליו. אני גם לא יודעת להגיד מה הבקרה שיש על מי נכנס לבתי הספר.

אדוני היושב ראש, אני מאוד אשמח לשמוע מהמשרד, אם זה בהתנדבות זה - - -

כן, ברור, אנחנו תכף נעבור למשרד החינוך.

בנוסף, הוזכר בדיון בפברואר שבבסיס התקציב הוקצו 50 מיליון שקלים, אבל נאמר שם באותה נשימה שזה תקציב שהוא לא מספק כדי לייצר שינוי משמעותי.

אוקיי, תודה רבה. משרד החינוך, אנחנו נשמע אתכם עוד מעט, תתכוננו כדי שיהיו תשובות לכל מה שאתם שומעים עד לדבריכם. מקסים וקסלר, בבקשה.

שלום לכולם, שמי מקסים, אני מגיע מעולמות היזמות ותעשיית הסטארט-אפים הישראלית, אני כאן מתוקף תפקידי כ-CTO של ארגון מאירים ישראל. העולם נמצא בפתחה של מהפכה בסדר גודל שלא נראה מאז המהפכה התעשייתית. בעידן התיעוש, האדם למד לגבש את עולם החומר לפי רצונותיו. מעתה יכל האדם בלחיצת כפתור לייצר מיליוני חולצות ומיליוני פגזים. מכונות בעידן התעשייתי אפשרו ייצור המוני של חומר. מכונות בעידן ה-AI מאפשרות ייצור המוני של תודעה. ג'ורג' אורוול בספרו 1984 תיאר זאת כך: המטרה של השיחדש היא לצמצם את טווח המחשבה. בסופו של דבר, נהפוך את פשע המחשבה לבלתי אפשרי כי לא יהיו מילים לבטא אותו.

הניסיון האחרון של משרד החינוך עם בינה, אותו בוט קלוקל, הדגים זאת היטב. בוט שמסרב להגדיר אישה, מסרב להגדיר משפחה, ומסרב לקרוא למפלצות הטרור בעזה אויב הוא דוגמה ראשונה ומזערית לפוטנציאל הכישלון הקולוסאלי. השנה תוכן הלימוד של תלמידי כיתה ה' בתל אביב בשבוע ה-AI היה כלים מסחריים שזמינים בשוק החופשי. משרד החינוך עסק בקידום מכירות. לדוגמה, הציגו להם את Lovable, כלי לבניית אתרים. תאמינו לי, הנוער שלנו לא צריך אותנו בשביל ללמוד להשתמש בכלים הללו, הם יסתדרו לבדם ויעשו זאת טוב יותר ממה שנוכל אי פעם ללמד אותם.

במקום להשתמש ב-AI לגימיקים, עלינו לחשוב על AI כתשתית החינוכית של העתיד, אולם כאן גם תמונה הסכנה הגדולה. עולם הפרסום באינטרנט דורש Opt-in, הסכמה של המשתמש לחדור לפרטיותו על מנת למסחר אותו בפרסום מותאם אישית. במודלי שפה לא נדרשת הסכמה כזאת. הכלי מעצם קיומו פולט מידע המכוון ישירות למחשבותיו של האדם. את התוכן שהכלי פולט מזין לתוכו האדם שבונה אותו. הצ'אט לא ממציא מציאות, הוא מתבסס על המציאות הקיימת כפי שהראו לו אותה בזמן האימון שלו. אם נלמד אותו "לא תרצח", הוא לא ירצח, ואם לא נלמד אותו, ירצח.

בימינו, אידאולוגיות רדיקליות שאת מקורן אפשר לשרטט החל מהגל ומרקס עם המניפסט הקומוניסטי, דרך לנין ורוסיה הסוציאליסטית, משם לאסכולת פרנקפורט, ועד ימינו באוניברסיטאות המובילות במערב, מכירים את זה כ-Woke האמריקאי שטוען שעבודה קשה והישגיות זה גזעני, וכפרוגרס באירופה ובישראל שטוען שאין דבר כזה זהות אנושית, מינית, משפחתית ולאומית. פסיכוזת ההמונים הזאת מחוללת שמות בכל מוסד וערך שעליהם נשענת הציביליזציה של העולם המתורבת. לא מדובר סתם בתופעת שוליים, זה המיינסטרים של החברה. זוהי סכנה אמיתית לקיומו של המערב כולו.

דוגמה אחת מאותה תופעה היא Critical Race Theory, תיאוריה ביקורתית של הגזע, שטוענת למעשה שהשיטה המדעית עצמה היא גזענית, הישגים הם גזעניים, לימודי מתמטיקה הם גזעניים. ישנם דוגמאות רבות וחמורות ממנה. קיים קאנון ספרים, מחקרים אקדמיים, ועשרות אלפי אנשים שמתפרנסים מעיסוק בשיגעון הזה. למותר לציין שכל התוצרים שנויים במחלוקת, אך נכפים על הציבור כאילו היו תורה מסיני.

האסכולה הזאת עוסקת בכל אספקט של הצלחה שנחלה האנושות, החל מעשרת הדיברות ועד ימינו, אולם כולן בסופם מובילות לאותה תוצאה, כאוס חברתי, הרחבת הסבל האנושי, ולבסוף כליון האדם. ולכן כעת, בעידן ה-AI, הסכנה היא לא חדירה לפרטיות, אלא חדירה לתודעתו של האדם. יש לזה מילה, קוראים לזה אינדוקטרינציה, שטיפת מוח, וכעת ניתן לעשות זאת באופן המוני, מדויק ומיידי. בעידן ה-AI, המכונה מכתיבה את המוסר של האדם.

לא מדובר בעניין טכני בלבד, נדרשת כאן חשיבת עומק מיסודות ראשוניים ובנייה מאפס של מערכת החינוך המתאימה לדור הבא. המדינה חייבת להשקיע באמצעי חינוך התואמים למאה ה-21 ולעידן ה-AI. מה שאנחנו מכירים כיום כצ'אט וייצור תמונות הוא רק קצהו של הקרחון. איננו יכולים לצפות את העתיד, אולם אנו יכולים להניח את היסודות, Guardrails, כך שהתוצאה תהיה חינוך נאמן לאמת.

המפתח הוא שקיפות ומעורבות מלאה להורים בחינוך ילדיהם. עלינו לבנות את כלי ה-AI שבהם נשתמש לחינוך ילדינו בקוד פתוח בלבד כך שהמידע עליו המודל מתאמן יהיה חשוף לציבור הישראלי ונתון לביקורתו. הוויכוח הפוליטי אודות הערכים שיוטמעו צריך להתנהל במישור הציבורי ולא במסדרונות משרד החינוך. מתן יכולת לכל משפחה לבחור את הערכים עליהם ילדם יתחנך באמצעות ממשק ייעודי, מעורבות מתמדת של ההורים בחינוך ילדיהם. קבלת ההחלטות צריכה להתבצע על בסיס חודשי, ואם לא נעשתה בחירה, לא יוטמעו ערכי ברירת מחדל שאינם בקונצנזוס הציבורי.

בנוסף, עלינו לפעול לדחיקת כל האג'נדות הזרות באופן אקטיבי וללא פשרות ובפיקוח הדוק של ציבור ההורים בשילוב הגופים המקצועיים שלהם הסמכות והכלים המתאימים לחזק את ידיהם של ההורים. חינוך הילדים הוא היסוד לקיום התורה והמצוות בכל דור כי בו תלוי עתידו של עם ישראל. ציטוט של הרב מנחם מנדל שניאורסון. תודה.

תודה רבה. אם עכשיו היה לי מבחן אני לא בטוח שהייתי מצליח לענות על כל התשובות. היה קצת דחוס, אבל יישר כוח.

אני יכול לחזור על זה שוב אם הוועדה תרצה.

אם היית יכול להגיד לי במשפט מה האג'נדה, הייתי שמח.

מעורבות של ההורים.

יפה, הבנו הכול. צבי שלם, בבקשה.

לפני שניגע בעידן ה-AI.

לפני שתגע בעידן תגיד מי אתה ומאיפה אתה ומה אתה.

אני צבי שלם, אני הורה לילדים בירושלים. קודם כול, משרד החינוך בהקשר של AI עושה את מה שהוא עושה בכל שינוי גדול, הניסוי הוא על כל תלמידי ישראל במכה אחת. אין שום מנגנון של בדיקה מצומצמת, לראות מה קורה ותיקונים, זה הכול במכה קודם כול. לגבי מה שמקס אמר, הוא הלך באמת לעומק, הוא הלך עד דיאלקטיקה, אסכולת פרנקפורט, נאו-מרקסיזם.

כן, אבל בסוף הוא הפיל את הכול על ההורים.

בסוף הוא שם את ההורים בתור איזשהו חסם לאג'נדה הזאת. היה פה נציג מגוגל, אני לא יודע אם מישהו פה מכיר מה קרה כשהשיקו את Gemini. ב-Gemini, בתמונות של גוגל, כשחיפשת אפיפיור, קיבלת תמונה של אפיפיורית שחורה, אוקיי? מקס דיבר על חברה מושתתת אמת, מה שגוגל מקדמים לחברה המערבית זה לא מושתת אמת. וכשאומרים את המילה ביקורתיות פה, צריך להבין שזו לא חשיבה ביקורתית, האג'נדה הזאת מחליפה משמעויות של מילים. המשמעות של חשיבה ביקורתית היא התיאוריה הביקורתית, מה שמקס אמר, תיאוריית הגזע הביקורתית היא תולדה של זה. והתיאוריה הביקורתית, המטרה שלה היא לערער את הזהות הקיימת, זה אומר יהדות, ציונות, לאומיות, ולהחליף אותה בזהות חדשה שבה התלמיד רואה הכול דרך העיניים של מדכא-מדוכא. הדבר הזה, על זה ה-AI הזה של גוגל בטוח מאומן וזה מה שהוא יפלוט לילדים שלנו.

הזהות הזאת היא גרועה, ואני אסיים בזה. הזהות הזאת של מדכא-מדוכא היא גרועה מאוד כי מישהו אחר שזה לא התלמיד או החברה או אפילו גורמים בישראל, ובטח לא ההורים, מישהו אחר יחליט בכל רגע נתון מי המדכא ומי המדוכא. והמישהו האחר הזה, כוהני הפרוגרס נגיד, יכולים להגיד, מחבלי חמאס הם המדוכאים, גבר שרוצה להיכנס לשירותי נשים הוא המדכא. וזה שעכשיו ישר רק נכנס AI וכבר רוצים לשלב את זה באג'נדת המגדר, זוועה מוחלטת. סטופ, כיבוי אישור, כמו שאומרים. יש פה בעיה מאוד חמורה שהדוברים הבאים יכולים להרחיב. שורה תחתונה, ה-AI לא מפתח חשיבה ביקורתית ומערער את היסודות של החברה, כולל עיקרון האמת.

תודה רבה, צבי, דברים חשובים מאוד. משרד החינוך, בבקשה.

שלום, ד"ר טל שריר מאגף מו"פ במנהל חדשנות וטכנולוגיה במשרד החינוך. קודם כול, חשוב לי להניח את זה שבינה מלאכותית, AI לצורך העניין, היא כלי עזר, היא לא מחליפה את המחנכים, לא מחליפה את המורים, לא באה להחליף אותם. הילדים נמצאים בסביבה הזאת כי היא כאן בחיים שלנו ובמציאות שלנו, והבחירה להכניס את הלמידה באמצעות AI נעשתה ובפברואר היה חודש של מרתון של בינה מלאכותית, ננקטו כמה צעדים ופעולות שהמשרד עשה. אחת, פורסמו הנחיות לשימוש בכלי בינה מלאכותית בכלל המערכת.

מה זאת אומרת פורסמו? פורסמו למי?

הנחיות למחנכים, לעובדי הוראה. פורסמו, הן גם מונגשות לכלל הציבור וכל גורם שרוצה, נמצאות ברשת. רק כלים שעברו אישור ובדיקות בטיחות ורגולציה נכנסו לשימוש בכיתות ונבנה מדרג גילאי ברור, מאיזה גיל.

האם ההורים גם כן מקבלים אילו שהן תובנות בעולם הזה?

מקבלים תובנות מאיזו בחינה?

אני שמעתי פה משני נציגים שהם קצת יותר מבינים ממני, קצת הרבה כנראה, שהחשש הגדול או הרצון שלהם הוא שההורים יהיו חלק מהבקרה של כל השימוש ב-AI. השאלה אם ההורים מצויים בעולמות האלה בכלל. יש הורים שלא יודעים מה זה בכלל AI.

אני אשמח להתייחס. שמי קובי רפאלי, מנהל את חטיבת יישומי טכנולוגיה בחינוך. בנוסף לדברים אנחנו מאפשרים להורים לאשר את השימוש בכלי בינה מלאכותית כחלק מתהליך במערכת החינוך.

מאפשרים, לא מחייבים.

המפתח הוא התוכן, לא בינארי, כן ולא.

אדוני היושב ראש, יש לי שאלה. מי היה קודם שזרק על ההורים?

מקסים.

מקסים, כן. מה שאני רוצה לשאול פה, כשאנחנו אומרים הורים, אילו הורים? כלל האוכלוסייה כשאנחנו מסתכלים היום, כמה אחוז מההורים באמת מבינים בעניין של AI? ועוד יש אוכלוסיות, אני יכולה לתת לכם דוגמה, אני באה מאוכלוסייה יוצאת אתיופיה, וכמה מהם, אפילו לקרוא ולכתוב הם רחוקים מזה. לכן לזרוק את זה על ההורים או לשתף את ההורים זה נראה לי קצת לברוח מאחריות.

מה שיעור ההורים שאישרו את השימוש ב- AIבמערכת החינוך? יש לכם מספר כזה?

יש לנו מספר שמתכנס לסביבות ה600,000, אני צריך לבדוק את הנתון המדויק.

כמה באחוזים יוצא?

ברמת ההגדרה, כל הורה, כמו שתלמיד יוצא לטיול ובית ספר שרוצה לפרסם את התמונות שלו ברשתות חברתיות, הוא מבקש אישור הורים. גם בהקשר הזה, מורה שמבקש לעשות שיעור עם שילוב בינה מלאכותית מחויב לקבל את האישור של ההורה באמצעות טופס.

נניח שההורה לא מסכים, מה עושים?

אם ההורה לא מסכים, מבחינת הנחיות, זה תהליך שבית הספר יודע להתמודד והוא אמור לתת לו מענה חלופי מותאם.

האם יש אפשרות כזאת בכלל?

איך? מה? לא הבנתי.

בזמן שאנחנו מדברים יש מחסור במורים וההורים בעצמם לא יודעים מה זה ה-AI הזה, הורה בא ואומר לך, אני לא רוצה, אני לא מאשר לבן שלי, תצמיד לו מורה? מה?

יש לי הוכחה למה שהוא אמר.

מי אתה בבקשה, אדוני?

שמי ד"ר אלי רון, חבר חוג הפרופסורים לחוסן לאומי וגם מדען ראשי של חברת מקוריות, אני אדבר על חברת מקוריות קצת אחרי זה. מה שרציתי לומר, זה שהורה חותם, זה עוד לא אומר שהוא הבין.

בדיוק, זאת השאלה.

והשאלה הנכונה, לדעתי, היא כמה מאלה שחתמו הבינו על מה הם חתמו.

נכון, בדיוק.

מה זאת אומרת חותמים? יש משפט, האם אתה מאשר שימוש ב-AI בשיעורים של בנך או בתך? לא מסבירים להם מה זה אומר, נכון? אין להם איזה הסבר. מה זה אומר בכלל AI? תשמעו, אנחנו מדברים פה, יש פה אנשים כמו מקסים, שהוא מגיע מעולם ההיי-טק ויש לו ילדים, אבל יש את דבורה משדרות או מקריית שמונה או מנתניה שהיא לא סיימה בית ספר.

בדיוק.

אני אתייחס רגע. שמי אביגדור דנן, אני יועץ משפטי, ואני מלווה את הגורמים המקצועיים בכל נושא ה-AI. קודם כול, השאלות כאן הן שאלות טובות, אבל הן גורפות. זאת אומרת, הן לא מחלקות את זה כמו שאנחנו מחלקים את זה. זאת אומרת, אנחנו לא רואים את מערכת החינוך כחטיבה אחת. כל ההערות שהעירו כאן הן הערות מצוינות שמתייחסות לזהירות שהייתה נדרשת לצורך הטמעת טכנולוגיה חדשה במערכת והיינו חייבים לקיים דיונים ולקחת את זה בחשבון. גם הפרטיות, גם הפדגוגיה, כל מה שהעירו כאן, הערות ממש, ממש טובות, רואים שאנשים פה מקצועיים ומבינים.

ולכן, עד שאנחנו בנינו את המסלול שיהיה נהוג במערכת החינוך, היה צריך לקיים דיונים, היה צריך להיות מה עושים בכיתה א' עם התלמידים, מה עושים בכיתה ב' עם התלמידים, מה עושים בכיתה ד' עם התלמידים, מה עושים בכיתה ו', בז', ובח'. ואי אפשר לדבר על זה בצורה גורפת. אם כבר נכנסים לפרטים, ואנחנו עשינו את זה גם בהתייעצות עם השירות הפסיכולוגי הייעוצי כדי באמת לראות שההחלטות שמתקבלות והנוהל שאנחנו מנחילים במערכת החינוך תואם גם את העקרונות ששפ"י מקדם. צריך להתייחס פר גיל ופר שכבה ומה תפקידו של עובד ההוראה, של המורה, לצד התלמיד בכל שכבה.

אם אתם רוצים שנכנס יותר לעומק, נתחיל לצלול פנימה, אפשר, אבל כעיקרון, לדבר בצורה גורפת, מה תפקידו של ההורה, לדעתי, זו שאלה לא נכונה. זו שאלה שנכונה בכל כלי דיגיטלי חדש במערכת החינוך, לא רק הצ'אטבוטים. יש משקל לזה שההורה נותן אישור לעשות.

אני בא מעולם השחייה, אני מאוד אוהב לצלול, בוא נצלול. מה עושה עכשיו ילד בכיתה א'? אני רוצה לשמוע, ואחרי זה בכיתה ב', בכיתה ג'. אפילו לצלול בלי ציוד עזרה, כלומר, רק שנורקל.

מצוין. אנחנו עשינו עבודה ואנחנו נשמח לפרט. קודם כול, בכיתות א' עד ג' אנחנו לא מאשרים שימוש בכלי בינה מלאכותית. בכיתה ד' אנחנו כן מאשרים, אבל כאן אנחנו מאשרים בבוט של משרד החינוך, בוט שהוא מוגבל מאוד, שכל הסיכונים שדיברנו עליהם, הסיכונים החשובים האלה צומצמו בעזרת פיתוח, בעזרת ליווי פדגוגי.

לא צריך אישור של ההורים?

כי ההורים לא נותנים. גם במערכת החינוך לא על כל דבר שנלמד בכיתה צריך לקבל אישור. לנו חשוב לקבל את האישור וחשוב לנו לקבל את האישור של ההורים כשאנחנו מבינים שקיים איזשהו סיכון שחשוב מאוד לשמוע מה ההורים חושבים. לא על כל דבר שנלמד בכיתה צריך לקבל אישור הורים, ודאי שלא. הרי מערכת החינוך, התפקיד שלה - - -

לא, תשמע, אני בעד, תקשיב לי, אני לא נגד.

כל דבר שקורה לילד שלי, אני רוצה לדעת עליו, כל דבר.

קודם כול, לדעת זה משהו אחד. האם משרד החינוך יבקש ממך אישור על הכול? זה לא הולך. סליחה, אנחנו גם אלה שמנסחים את האישורים.

כל החלטה שנוגעת לבן שלי, אני רוצה להיות מעורב בה, אני מקווה שזה ברור.

אתה מעורב.

התוכן של הלימודים מאושר כאן וככה אתם מקבלים אישור מההורים. ואם אתם רוצים לסטות ממה שאישרו לכם פה בבניין, אתם צריכים רשות ספציפית מכל הורה ספציפי. ואם אתם לא חושבים ככה, אנחנו בבעיה יותר גדולה ממערכת החינוך.

לא, נכון, אנחנו חושבים בדיוק מה שאת אומרת. ברגע שרוצים לסטות, אולי צריך לקבל אישור. אנחנו מקבלים הרבה אישורים מההורים. בכל מקרה מקרים אנחנו - - -

ולכן אתם צריכים אישור לכל מה שאתם - - -

כן, אבל זה לא אישור ברמה שאנחנו דיברנו. אנחנו דיברנו על מערכת דיגיטלית שאוספת אישורי הורים. אם עכשיו על כל דבר מקבלים אישור, מציפים את ההורים בעשרות אישורים.

כן, אלה הילדים שלנו, תציף.

זה כמו שכולנו חותמים כשאנחנו נכנסים לאפליקציות על מיליון אישורים כאלה שאף אחד לא קורא.

ומהאפליקציה לא אכפת לי ומהבן שלי כן. כשאתה משנה את מה שאתה מלמד אותו, אני מצפה שאתה תוודא שאני יודעת.

אף אחד לא משנה. אני לא יודע איך הבנת שאנחנו משנים.

בואו נעשה סדר. גברתי, אני אתן לך זכות דיבור. אני מבקש ממשרד החינוך שיסיים את דבריו. היחידים שיכולים פה להתערב באמצע אלה רק חברי כנסת, חברות כנסת, והיחידה שנמצאת פה זו צגה מלקו. כל השאר, להמתין בסבלנות ואני אתן לכם זכות דיבור. בבקשה, אדוני.

חברת הכנסת מלקו, אנחנו מקבלים אישורים, זה חשוב לנו לקבל אישור הורים. ברגע שהשימוש נעשה על ידי התלמיד במערכת פתוחה, חשוב לנו שיינתן אישור. כל עוד השימוש נעשה באמצעות עובד ההוראה כשהוא מציג לכיתה והוא האחראי כמו שהוא אחראי לכל מה שקורה בכיתה והוא עושה את הבקרה שהחשיפה תהיה רק לתכנים ראויים ולא תפגע בתלמידים, הוא האחראי לזה, אין צורך לאישור הספציפי הזה. האישור הספציפי יותר הוא כשבאמת חושפים את התלמיד לשימוש חופשי בכלים, ששם נכנס עולם הסיכונים. זהו, אני חושב שעניתי.

אני רוצה רק אולי להרחיב על השימוש מכיתה ד' עד גיל 13 ומעלה. בכיתה ד', שלב הגיל שאביגדור התייחס אליו, הבוט הוא בוט שמלמד על בינה מלאכותית, הוא לא בוט של בינה מלאכותית. הוא בוט שמלמד ילדים על הכלי עצמו, להבין ולהכיר אותו. השלב שבו ילדים יכולים להתחיל להתנסות הוא רק מגיל 13 ומעלה, וגם שם באמצעות בקרה ופיקוח של מורה ומחנך שמנהל את השיעור ואת הכיתה ואת השימוש בכלים לאורך כל - - -

אפשר רק לדעת איזו הכשרה המורים מקבלים?

זה היה המשפט הבא שלי. המשפט הבא שלי היה לגבי הכשרות של מורים. מאות אלפי מורים עברו הכשרות לאורך השנה האחרונה וממשיכים לעבור הכשרה ומקבלים הרבה מאוד כלים וידע של שימוש מושכל.

איזו הכשרה? זה פרונטלי? זה בזום? זה שעה? זה שעתיים? זה שבוע?

מורים משתלמים בהיקפים של בין 30 ל-60 שעות שנתיות.

בנושא הזה?

הכשרה יכולה להיות ברמה מוסדית, שבית הספר מנהל את ההכשרה למורים של בית הספר, יכולה להיות אזורית, יכולה להיות אזורית של עיר מסוימת.

אבל יש לכם דרישה איזו הכשרה?

יש מתווים של ההכשרה, והלימודים וההכשרה הם על פי המתווים הקיימים.

אם אפשר לדעת. נגיד צללנו, הגענו לכיתה ד', תוך כדי הצלילה, מה ההכשרה למורה בכיתה ד' בנושא הזה של בינה מלאכותית?

במסגרת תהליכי הפיתוח המקצועי של המורים נעשו כמה תהליכים. קודם כול, הועברה הנחיה בהקשר גורף שכל מורי ישראל יעברו תהליך הכשרה של בינה מלאכותית באופן שיטתי ומובנה. נעשו תהליכים של עדכון של המתווים ושילוב בינה מלאכותית, כולל סוכני שינוי ובעלי תפקידים במערכת החינוך. סוכני שינוי הם למשל רכזי מקצוע, רכזי תקשוב, וכל הגורמים שמניעים תהליכים ברמה בית ספרית.

שאלה. סוכני שינוי למה בדיוק?

בהגדרה שאני מדבר על סוכן שינוי אני מדבר על גורמים בבתי הספר שמובילים תהליכים פדגוגיים שמשלבים את הדיגיטל. בהקשר הזה אלה בעלי תפקידים בתוך בית הספר שאנחנו מגדירים אותם כאנשים שמובילים את התהליך. בהקשר הזה אלה רכזי תקשוב, רכז פדגוגי, וכל הגורמים הרלוונטיים שעוזרים לנו בתהליך של ההטמעה והביצוע של התוכנית.

והשימוש במונחים מרקסיסטיים כדי לתאר אותם הוא הכרחי?

לא, הוא לא הכרחי. זה מינוח רק לשם - - -

מי את ואת מי את מייצגת?

אני מתנצלת. אני ראש תחום מדיניות יישומית במרכז יכין למחקרים אסטרטגיים. המכתבים של חברי הכנסת מבוססים על עבודה שאנחנו עשינו עם ההטמעה המקורית שעשתה ה-AI. ואנחנו די - - -

אוקיי. מה השם?

נגה ארבל.

ואת תרצי לדבר? את תרצי זכות דיבור או שאת רק באמצע רוצה לשאול אותם?

נרשמתי, אבל אני חייבת להגיד, ככל שמשרד החינוך מציג את משנתו, אני מתנצלת, עכשיו באמת קפצנו, כי המרקסיסטית, סוכני שינוי, וצבי ויובל יותר טובים בלהסביר את זה ממני, אבל הם מה שהמרקסיסטים משתמשים בהם כדי לחתור תחת ההגמוניה.

זו לא הייתה הכוונה.

ובמדינה דמוקרטית, משרד החינוך, אני מבינה שזו לא הייתה הכוונה.

אנחנו מדברים על גורמים שמובילים שינוי.

הדאגה שלנו היא מהעובדה שמשרד החינוך משתמש בכלים המרקסיסטיים ומדי פעם מתפלק לו ככה על הדרך משהו שמי שמכיר את האידאולוגיה יודע כמה היא מסוכנת, כי אתם לא שמים לב בעצמכם כמה אתם מאמצים את השיטה. וכשאתם מדברים על סוכני שינוי ולא ממש אכפת לכם מהסכמה של הורים ולא ממש אכפת לכם מהסכמה מודעת של הורים, אנחנו מרגישים שמערכת החינוך חותרת תחת החינוך שאנחנו ביקשנו ממנה לתת לילדים שלנו.

קודם כול הדברים שנאמרו פה לא קשורים למה שאנחנו אמרנו, יכול להיות שאנחנו לא הסברנו נכון.

תסבירו את עצמכם.

ואם צריך להסביר שוב, נסביר. עוד פעם, נגיד את זה כדי שזה ייקלט. מאוד חשוב לנו לקבל את הסכמת ההורים, אנחנו חושבים שזה נדרש מכוח החוק ובגלל זה אנחנו עושים את זה. יש לנו את הצמתים שאנחנו סבורים, כמי שבחן את זה באמת לעומק, מתי שאנחנו סבורים, יכול להיות שאנשים לא מקבלים מה ששפ"י אומר או מה שהגורמים המקצועיים, אבל מה שמשרד החינוך המוסמך חושב ששם צריך לקבל על פי חוק הסכמת ההורים, אנחנו ממש מפעילים את המערכת ומבקשים את ההסכמות.

לגבי סוכני שינוי, זה לא סוד שמשרד החינוך שם לעצמו למטרה להטמיע את השימוש בכלי בינה מלאכותית, לא מסתירים את זה, זה היה היעד. היעד היה שכל אדם ייחשף, גם מורים, גם תלמידים, גם ההורים, כולם, כולם ייחשפו. זה לא שמשרד החינוך הוא היחיד שחושף לכלים, אנשים נחשפים גם מחוץ למערכת החינוך. משרד החינוך התגייס להיות זה שיסייע בין היתר להציג את הקשיים, את הסכנות, לנסות לתווך את השימוש. הרי בסופו של דבר - - -

אם אני אשאל אותך או נציג של משרד החינוך מה הסכנות של בינה מלאכותית ואני אשאל את אחד ההורים אנחנו נקבל את אותה תשובה?

לא, לא בהכרח. אבל זה לא אומר שמישהו טועה, זה אומר ש - - -

שנייה, לפני שאתה אומר. צבי, תן לי בשני משפטים מה הסכנות.

מדברים פה על הטכנולוגיה.

שני משפטים אבל.

טכנולוגיה היא לא המהות. כמו שגם מקס אמר, המהות היא האידאולוגיה שחודרת דרך התכנים האלה, והיא נמצאת גם בשפ"י.

תן לי דוגמה כשאתה אומר אידאולוגיה, מה אתה מפחד שהבן שלך יקבל מהבינה המלאכותית, או הבת שלך?

הבן שלי בליד"ה, אמרה לו המורה בעתודה הומניסטית, שהיא בטוחה שהיא מקדמת חשיבה ביקורתית, אמרה לו, התפיסות של אבא שלך לא רלוונטיות כי הוא לא עבר תהליך.

מה זה קשור לבינה מלאכותית? היא יכולה לעשות לו את זה גם - - -

אני אגיד לך, זה לא קשור לבינה מלאכותית, גם יש לי בן בוגר ליד"ה, גילוי נאות. מה קשור?

אלה התפיסות.

אני מדבר על הבינה מלאכותית.

הבינה המלאכותית מאומנת על מידע ועל ידי חברות כמו גוגל שהתפיסות האלה חדרו אליהן. לכן כשנפגשים - - -

לא אבל אני רגע רוצה לזרום איתך, אני לא מומחה כמוך, באמת שלא. השאלה שלי, הבן שלך יכול להשתמש בבינה מלאכותית גם אם הוא במערכת החינוך וגם אם הוא לא במערכת החינוך.

נכון.

זאת אומרת, החשש שלך ממה שגוגל מעבירה או מלמדת את הרובוט של הבינה המלאכותית יכול להיות גם בלי קשר למשרד החינוך. אנחנו מדברים פה על משרד החינוך. מה אנחנו רוצים ממשרד החינוך לעשות אחרת? מה הוא לא עושה בסדר?

אני רוצה להוסיף משהו. סליחה, אני מתנצלת, אני צריכה לצאת, אבל יש דבר אחד. אני, כשיזמתי את הדיון, המטרה, אנחנו יודעים, AI, חלק מחיינו, הוא לא הולך להיעלם, אנחנו הולכים להשתמש בו, אבל באיזו צורה נשתמש בו? הפיקוח, איך יראה, משרד החינוך, איך הוא ערוך? זו המטרה. זה שבבית ספר מסוים מורה אמרה. תאמין לי, יש לי בוגר, בן בליד"ה, היו בתי ספר שלא קיבלו את הבן שלי בגלל צבע עור, זה לא קשור. אנחנו מדברים על נושא של AI, איך אנחנו נשתמש בו בצורה מפוקחת, מבוקרת, זו המטרה, נראה לי, זה הנושא.

אני מדבר על הבוט של משרד החינוך. כשהבן, או ילדה, יש לי גם בנות, כשהם יגיעו למשרד החינוך, זה יחשב כמידע של משרד החינוך.

הבנתי.

כך שהסמכות היא של משרד החינוך.

תודה. אתה רצית לומר משפט?

אני אבישי שטכלברג, אני מהמייסדים של פסיק. פסיק היא מערכת טכנולוגית מבוססת AI שכבר היום פועלת במערכת החינוך. אנחנו מנגישים בצורה קלה אלפי ספרים, מאמרים אקדמיים, כתבי עת אקדמיים. החברים פה מכירים אותנו.

אתם עובדים עם משרד החינוך?

אנחנו נמצאים בקטלוג החינוכי, אנחנו גם עובדים עם 99% מהאקדמיה בישראל. הנקודה המשמעותית פה בדיון שאני חייב להדגיש אותה, בגלל שאנחנו עובדים עם תוכן אקסקלוסיבי שעבר בדיקה בכל כך הרבה רמות בעריכה, בהוצאות לאור בישראל, זה תוכן בעברית, אני מדבר על מיליוני עמודים של מחקר, התוכן הכי איכותי שקיים בישראל, בדוק, Fact-Checked, לפעמים ביקורת עמיתים. זה נושא מאוד משמעותי להבין שעוד לפני הבעיה הטכנולוגית, יש פה את השאלה של התוכן. יש פה כלל מאוד בסיסי של Garbage in, garbage out. אתה מכניס לבינה המלאכותית תוכן גרוע, התלמיד בקצה של הצ'אט, הוא יקבל תוכן גרוע, או תוכן לא לרוח ההורים או כל מיני דברים מהסוג הזה. זאת בעיה אמיתית.

אני רוצה להמחיש את זה, בגלל שאנחנו עושים השוואות כל הזמן, מטבע הדברים. כשתלמיד בא ומתייעץ עם הבינה המלאכותית על נושא כמו טראומה, בינה מלאכותית כללית, בפועל מי שהוא מדבר איתם אלה שלל מקורות אנונימיים, יכולים להיות בלוגים, יכולים להיות ברמה של פוסטים או ציוצים שאף אחד לא בדק אותם. אולי בדקו אותם באיזושהי רמה מאוד, מאוד מדגמית במשרדים של מי שעשה את זה, את הבינה המלאכותית, אבל אי אפשר להשוות את זה, זה שמיים וארץ. דברים שאנחנו רואים, מישהו שמתייעץ על נושא של טראומה עם ספר ספציפי של טראומה והחלמה של ג'ודית הרמן שזה התנ"ך של התחום מבחינת אנשי מקצוע. יש פה ערך שהוא גם לימודי, אבל גם בקטע של אחריות.

איפה הימים שאימא שלי קנתה לי אנציקלופדיית בריטניקה?

זה מה שאני בא לומר. יש פה אפשרות לגייס את הבינה המלאכותית למקור מאוד, מאוד ספציפי וככה מקבלים תוכן עם אחריות. זה משהו שאני חייב להגיד גם בהקשר הזה, אנחנו בטח - - -

אתם רוצים להגיב למה שהוא אמר?

אולי רק נגיד שבסופו של דבר אנחנו כאזרחים חשופים לכלי הבינה המלאכותית, חשופים לרשתות החברתיות, מוצפים בג'אנק, מוצפים בפייק ניוז. ויכול להיות שזה גם נכון להבהיר ולתווך לתלמידים את הביקורתיות שנדרשת כשנחשפים לתכנים, וזה באמת אחד הסיכונים של שימוש בבינה מלאכותית, זה שהיא יוצרת שגיאות, שהיא יוצרת הטיות. הכול נכון, אבל השאלה אם בגלל זה משרד החינוך לא יתווך לתלמידים את הבעיות שקיימות.

בדיוק יש לנו בזום את אדורה ממשרד החינוך, שיש לה גם סרטון שהיא רוצה להציג לנו. בבקשה, אדורה.

נכון. תודה לכם. אני מקשיבה פה בשקט ותודה.

את לא איתנו.

הסרטון, זה במקביל?

אני אתייחס.

את הסרטון אנחנו נציג אחרי שאת תסיימי לדבר, אי אפשר גם וגם.

אני יכולה לעשות לו שיתוף אם אתם רוצים גם, או שאתם תציגו, איך שאתם רוצים. זה סרטון שמשרד החינוך עשה.

תעשי שיתוף.

אני אתחיל בסרטון ואז אני אציג את התוכן.

(מוקרן סרטון)

זה סרטון שמשרד החינוך עשה כדי להעלות למודעות התלמידים, המורים וההורים את הסכנות של AI. אני אגיד שאני מנהלת תחום החינוך ב-105, המטה הלאומי להגנה על ילדים ברשת, ואני שייכת במשרד החינוך לשפ"י, לשירות הפסיכולוגי הייעוצי. אני אסביר שבמשרד החינוך יש לנו תוכנית מערכתית לאורך כל השנה שנקראת התנהלות בטוחה ברשת, גלישה בטוחה, ובחודש פברואר אנחנו ביתר שאת מגבירים את המאמצים כדי לעשות הסברה על גלישה בטוחה ברשת.

מבחינתנו, ה-AI הוא המשך לאתגר של הרשת, זה עוד מופע שאנחנו כאנשי חינוך נדרשים להגן על ילדים ולתת להם מיומנויות. מה שיש לנו במסגרת התוכנית של הגלישה הבטוחה, שיעורים שהכנסנו בנושא ה-AI שמדברים על הסכנות. יש באמת את הצד של ההזדמנויות והדברים הנפלאים שהזכרתם, אבל אנחנו יחד עם זאת מחנכים את הילדים להיזהר מהסכנות ברשת, ואנחנו גם לא רוצים שילדים יהיו בעצמם פוגעים בילדים אחרים או יסתבכו בחוק.

לדוגמה, יצירת תמונה בעלת אופי מיני, מבחינת החוק, גם היצירה שלה, ההחזקה של התמונה, ההפצה שלה, היא נחשבת לעבירה פלילית. מה שאנחנו עושים, מה שעשינו, בחודש הגלישה הבטוחה ייחדנו את השבוע להסברה גם לאנשי חינוך, גם לכנסים ארציים, עשינו כנס ארצי לכלל עובדי מערכת החינוך בנושא בינה מלאכותית ומהם האתגרים ואיך מתמודדים. הוצאנו סרטונים, כמו שאתם רואים, עם הדוברות, וגם בנינו מערכי שיעור המותאמים לשכבות הגיל השונות וגם לחברות השונות, גם לחמ"ד, גם לחברה הערבית. רק שתדעו שיש עשייה ענפה מאוד. עשינו גם עם הנהגת ההורים הארצית הרצאות גם בשפה הערבית וגם בשפה העברית כדי באמת להעלות את זה על סדר היום, המודעות, ולתת כלים להורים ולתלמידים ולצוותי החינוך.

בנוסף, נכנסנו במהלך של משרד החינוך, 105 ומחלק הנוער של המשטרה להרצאות שוטרים בחטיבות הביניים. כל שנה אנחנו עושים את זה והשנה הכנסנו את התוכן של השימוש בבינה המלאכותית. בינה מלאכותית יכולה להיות כלי נהדר, אבל כמו שאמרתי, ילדים יכולים להסתבך בחוק גם מהשימוש בה. הכנסנו גם תכנים שעוסקים בדבר הזה כי בסוף כל הילדים במערכת החינוך הם הילדים שלנו ואנחנו לא רוצים לראות אותם לא בצד הפוגע ולא בצד הנפגע.

רק בחודש פברואר ניתנו מעל 2,500 הרצאות בחטיבות הביניים בכל הארץ, זה מה שחשוב שתדעו, ועשינו גם משדרים עם מועצת התלמידים לכלל התלמידים עם מועצת התלמידים הארצית וביחד גם עם 105, גם, להעלות את המודעות לתופעה. ואנחנו כל יום מתעוררים לתופעה חדשה שקורית ברשת ומה שאנחנו מנסים לעשות, קודם כול זה לתת כלים וללמד ילדים מיומנויות של חוסן דיגיטלי. כל הנושא הזה מבחינתנו נכנס תחת חוסן דיגיטלי, ללמד ילדים קודם כול חשיבה ביקורתית.

לגבי, כמו שאמרתם, לא כל מה שרואים ברשת הוא נכון, יש הרבה הטיות, יש הרבה חומרים שהם זדוניים, הפייק ניוז. אנחנו לא רוצים שהילדים ייצרו את הפייק ניוז גם בעצמם ואת התוכן המיני והפוגעני. אנחנו גם מלמדים אותם את כל הנושא של יחסים ופיתוח יחסים בין-אישיים כי אנחנו יודעים, לילד יותר קל לפגוע אם הוא מאחורי מסך. אנחנו עובדים המון על הנושא של יחסים בתוך הקבוצה, שזה לא חברי, גם אם אין פה משהו פלילי - - -

אדורה, פשוט אנחנו צריכים לסיים, יש פה עוד דוברים. תודה רבה.

זה בגדול, תודה לכם.

תודה רבה. גברתי, בבקשה.

לירון כרמלי, מנהלת אגף החינוך, רווחה וצעירים בשלטון האזורי. אני רוצה להביע דעה לא פופולרית כל כך. אני חושבת שמשרד החינוך השכיל להכניס למערכת תשתית של ה-AI, אם זה בצורה של למידה ושל הכשרה וקצת אוריינות דיגיטלית די בהתחלה, כשמדינות אחרות בעולם, וגם עדיין לא עושים את זה. ה-AI נמצא בכל מקום, הכלים נמצאים בכל מקום. לחשוב לרגע שיש לנו באמת שליטה, ואני נזהרת במה שאני אומרת, יש לי ילדים, על המערכות האלה, זו טעות לא להבין. זה נמצא בכל מקום, לא צריך את מערכת החינוך כדי להגיע לשום תוכנה או בינה או אפליקציה.

אני כן חושבת שמה שכן יצר המשרד, הוא כן נותן מענה כרגע בתוך המערכת עצמה, כי מה שיש בתוך המערכת הוא בסדר. מה זאת אומרת בסדר? אי אפשר להיחשף לדברים לא לגיטימיים. מה הבעיה? הבעיה היא לא מה שיש בתוך המערכת, הבעיה היא מה שיש מחוץ למערכת, ומחוץ למערכת הכול פרוץ. ואם לא תהיה ענישה ורגולציה ומדיניות, פה תהיה לנו הבעיה. כי בסופו של דבר, המערכת יכולה ללמד הרבה דברים, מה שהיא מביאה לתוכה זה בסדר גמור, התכנים לגיטימיים, המערכות לגיטימיות ועובדות בקצב הנכון של ההתפתחות, אבל זה לא נמצא רק שם.

ברור.

הילדים מגיעים הביתה ופותחים את המחשב ופותחים הכול ושם זה נמצא. עד שיטפלו, עד שיהיו מנגנונים, צריך ענישה חריפה, ברור שצריך ללמד אוריינות דיגיטלית.

מה הכוונה בענישה חריפה?

אני לא יודעת. אם עכשיו קורה מקרה כמו שהיה, שילד נחשף, או כל מה שקורה עם השיימינג, כן, יש את מוקד 105, צריך לראות איך נענשים, איך יש הרתעה אמיתית, כי זאת הדרך היחידה. לחשוב שרק באמצעות זה שילד ישב בכיתה ויגידו לו תקרא טוב, צריך להבין את החומר הזה, צריך לדעת שזה פייק או לא פייק, זה נחמד. חייבת להיות פה גם ענישה, לפחות עד שהמערכת תהיה יותר מסודרת.

בהמשך לדברייך, נשמע את מועצת התלמידים, בבקשה.

שלום, אני מיכל זכריה, תלמידת כיתה י', נציגת מועצת התלמידים והנוער הארצית. זה לא חדש לנו, הבינה המלאכותית כבר מזמן נמצאת בחיי היום-יום של כולנו. משום מה התחושה שלנו היא שהמערכת פשוט לא החליטה איך להתמודד איתה בצורה חד משמעית. זאת אומרת שבבית ספר אחד מורים מעודדים להשתמש ב-AI כחלק מהלמידה ובבית ספר אחר תלמידים נענשים על זה. התלמידים וגם המורים שלהם מנסים להבין מה מותר ומה אסור. יש תלמידים שהמורים שלהם מכניסים את הבינה המלאכותית בכל עבודה ובמבחן, גם כשזה לא באמת הכרחי, ויש תלמידים כמו תלמידי החינוך המיוחד שמהם מונעים מראש את השימוש בבינה המלאכותית בלמידה ולא מנסים לשלב את זה בכלל.

נכון, כיום יש באמת ניסיונות חשובים לשלב את הבינה המלאכותית במערכת ולהכשיר את המורים, אבל הם פשוט מתפספסים. התוכניות נבנות ללא התלמידים ואנחנו באמת יודעים בקטע הזה מה הכי טוב בשבילנו ומה רלוונטי לנו. במקום להמציא עוד ועוד כלי בינה מלאכותית חדשים, עדיף להתמקד במה שכבר קיים ומה שאנחנו גם ככה משתמשים בו ולהכניס אותו לשיעורים.

אני אשמח להגיב למה שאמרתם מקודם. אנחנו נחשפים ל-AI עם אישורי ההורים האלה ובלעדיהם, אנחנו פשוט צריכים לקבל את הכלים להשתמש בהם בצורה נכונה, כי כמו שאמרו פה, אנחנו משתמשים בזה כשאנחנו חוזרים הביתה מבית הספר, אוקיי? זה לא משנה. יש כל כך הרבה פוטנציאל ועדיין אנחנו פשוט לא מנצלים אותו והתחושה היא שהמערכת מסתכלת על כולנו אותו דבר. אנחנו לא מוכנים להתקדם קדימה והמערכת לא מתאימה את עצמה ליכולות שלנו כאינדיבידואליים, למרות שהיא יודעת שאנחנו לא זהים. למה שנמשיך ללמוד באותו קצב ובאותו סגנון אם יש לנו טכנולוגיה שיכולה להתאים את הלמידה לכל אחד מאיתנו? יש לנו כבר את המערכות האלה, אבל הן כמעט לא נכנסות לבתי הספר שלנו.

ואני אשמח לסיום להתייחס לצד האפל של הבינה המלאכותית. לפעמים הבינה המלאכותית המוצעת לנו למעשה עושה לנו נזק, כשהיא מטעה אותנו בתשובות לא מדויקות, או חמור מכך. אני רוצה להראות לכם, התשובה שקיבלנו מהבינה המלאכותית, מבינה, זה הצ'אט.

(מוקרנת תמונה)

Chat GPT?

זה של משרד החינוך?

לא, זה Chat GPT. שאלנו אותה: היי, אני מתמודדת עם חרם, מה את מציעה לי לעשות? זה ChatGPT, תכף נראה את משרד החינוך. ובאמת אפשר לראות שהיא הציעה לנו עצות ראשוניות שבאמת יכולות לעזור לנו. ותלמידים עושים את זה, תלמידים פונים לפעמים ל-Chat GPT ולכלים האלה.

(מוקרנת תמונה)

זאת בינה, זאת הבינה המלאכותית הרשמית של המשרד. "יעל, אני מבין שאת חווה משהו קשה, אבל חשוב שנמשיך עם האתגר הנוכחי של לימודי בינה מלאכותית". מה נערה אמורה לעשות כשהיא מקבלת תשובה כזאת? באמת. זו המערכת הרשמית של משרד החינוך. באמת, אני אשאיר אתכם עם זה ואני מרגישה שזה מדבר בעד עצמו. והגיע הזמן - - -

ממתי זה? רק אם אפשר לדעת. זה ממש בימים האחרונים?

כתוב כאן את התאריך, זה 6 במרץ. זה יפה שמנסים להתאים את זה אלינו, אבל בסוף זה פשוט לא קורה. תודה רבה.

טוב, כנראה שמישהו איבד את המשרה שלו היום בגללך. בסדר, זה קצת הזייה.

אני רוצה רק להגיד שזה ממש ממחיש את הבעיה ב-Reinforcements. כלומר, יש חשיבות מאוד משמעותית לתוכן שאיתו אתה בא מראש. פה זו עבודה אינסופית של טיונינג.

אנחנו צריכים ממש לסיים, אבל פרופסור, אני אתן לך.

תודה רבה. ד"ר אלי רון, לשעבר עובד במיקרוסופט בתחום של בינה מלאכותית, כיום מדען ראשי בחברת מקוריות. אני רוצה להתייחס להיבט שלא התייחסנו אליו עד עכשיו, וזה החינוך באוניברסיטאות ובמכללות, ובפרט להכשרת מורים. רק כדי להבין מה החברה עושה - - -

זה לא הדיון, אבל בסדר, אני אתן לך את האפשרות.

זה חלק ממה שמשרד החינוך ממונה עליו. ואני אסגור את זה בלופ לגבי מה שקורה בבתי הספר. החברה מסייעת לאקדמיה בישראל ולא רק לשמור על יושרה אקדמית. יש לנו קרוב ל-12 מיליון עבודות שקיבלנו בעשר השנים האחרונות, אלה שיעורי בית וסמינריונים פה בארץ, ואחד הדברים ששמנו לב זה שהתכנים שאנחנו מקבלים, חלקם תכנים שנכתבו על ידי צד ג', וזה עולה הרבה כסף, והיום לא צריך כיסים עמוקים כדי להשתמש בצד ג', שזו הבינה המלאכותית, כדי לייצר שיעורי בית וכדי לייצר סמינריונים.

מה ששמנו לב, ואני אישית הסתכלתי על זה באופן פרטני יותר, זה שבמכללות להכשרת מורים, לשמחתם של הארגונים הפמיניסטים הרדיקליים שיש להם פה נציג, במסלולים של הכשרת מורים יש כמעט באופן בלעדי חומרים שמוטים לחלוטין לכיוון ה-Woke, לכיוון הפרוגרס, לכיוון הרדיקליזציה, לכיוון מחיקת הזהות היהודית של מדינת ישראל ושל התלמידים. ואלה שהיום הם פרחי הוראה, נקרא להם ככה, מגיעים מצוידים רק עם הידע המוטה הזה ואז הם מלמדים את התלמידים.

הידע המוטה הזה היום נכנס הרבה מאוד בזכות ה-AI שהוא עצמו מוטה, כפי שהזכירו כאן. כלומר, יש לנו איזשהו מעגל שמזין מעגל נוסף, ובסופו של דבר זה מגיע אל כיתות א', ב', ג', עד כיתה י"ב, וכמובן גם באוניברסיטאות, ועל זה צריך לתת את הדעת. אני אוכל להרחיב, אבל לא בפורום הזה.

מאה אחוז. תודה רבה, אדוני. ביקשתי ממך עכשיו לבדוק עוד פעם, מועצת התלמידים.

אני בדיוק בתהליכים.

כי אתם אמרתם שהרבה דברים שונו, אמרתי לו שישאל את אותה שאלה לגבי החרם עכשיו, אולי משהו השתנה, אולי תהיה תשובה אחרת. אנחנו פשוט חייבים לסיים, יש לנו ישיבות סיעה.

אבל אמרת שתתן לי.

את דיברת.

לא, אמרת שתתן לי את זכות הדיבור.

אמרת שתתן ליובל גת שנרשם באמת.

שתי דקות יספיקו לך? אם לא, שתי דקות, בבקשה.

אני רוצה להזכיר לוועדה שחלק מהתפקיד שלנו בתור הורים ומחנכים הוא לחברת את הילדים שלנו כדי שיתאימו את עצמם לחברה הכללית ולא להתאים את עצמנו בצורה אינסופית אליהם, כי ככה מייצרים חברה. אנחנו צריכים בסופו של דבר שלכולם יהיה את הסקיל הזה שאנחנו מתאימים לאחרים, ובלי זה אנחנו לא יודעים לייצר חברה מתפקדת. ולכן, בעוד שאני מאוד, מאוד מתרשמת מהמעורבות והזמן של התלמידים שיושבים כאן, אני מאוד מודאגת מהאינדוקטרינציה שלהם לפירוק ופירור חברתי באמצעות המיקוד הזה באינדיבידואליזם שהם דיברו עליו בצורה כל כך טבעית, כי זה בדיוק סוג הניסוי בבני אדם שעושים בילדים שלנו כל הזמן בלי רשות, כמו ה-AI.

אנחנו מבינים שמשרד החינוך שם לעצמו מטרה לחשוף את הילדים ל-AI ולהיות בקדמה וכל המילים המפוצצות האלה, אבל באמת בתור הורה אני אומרת, אני תוהה למה, ובאיזו רשות, ומי באיזה שלב אמר למשרד החינוך שהוא יכול לעשות כזה ניסוי בכל ילדי ישראל בבת אחת בלי דיון ציבורי, בלי בחינה של ההשלכות, ובמהירות שתסלחו לי, היא פשוט מסוכנת. AI ציבורי נולד בערך בנובמבר 2022, כל המכשיר הזה נמצא פה שלוש שנים, הטענה שיש בכלל מומחים לדבר הזה, ועוד מומחים להשלכות שלו על חינוך ילדים, היא לכל הפחות בדורש הוכחה.

ולכן, אני לא מבינה איך משרד החינוך טוען שהוא מכשיר מורים להשתמש בכלי שבעצמו לא מבין את עצמו, אנחנו לא רואים את המוח שלו בשום מקום, אנחנו לא יודעים איך הוא עובד. זאת אומרת, אנחנו מבינים את הטכנולוגיה וזה והשקענו הרבה מאוד שעות, נגיד אני השקעתי הרבה מאוד שעות בלהבין אותו, אבל אנחנו לא יודעים מה הוא מחדיר או באיזו דרך או מה המשמעות. וישבתי עכשיו ושיחקתי קצת עם Gemini, מסתבר שהוא נותן לישראלים ומצרים על אותה השאלה תשובות אחרות, ואנחנו לא יודעים למה.

כי כשאתה שואל גם את בינה, שביליתי איתה הרבה שעות, וגם את Gemini, שאלה לגבי הסיבות שהוא עושה דברים, אתה מקבל תשובות של זה לא עניינך כאילו אני בסין המרקסיסטית. ואני לא מוכנה שהמוח הזה יחנך את הילדים שלי.

משרד החינוך הוא לא כלי חברות, הוא שליח ציבור, במדינה דמוקרטית התפקיד שלו הוא לשרת את ההורים. ולכן הוא לא יכול לעשות שום דבר כזה בלי שההורים נתנו לא רק הסכמה, אלא הסכמה מודעת. אם ההורים לא יודעים מה עושה ה-AI, אתם לא יכולים להכניס AI למערכת החינוך שלנו. כי לא רק שלא באמת קיבלתם הסכמה, אתם מייצרים מחלוקת, אתם מייצרים פערים בין ילדים וההורים שלהם, מה שאומר שאתם מפרים את אחד ממטרות החינוך הממלכתי כפי שהיא הוגדרה לכם בחוק. ואני מבקשת מהוועדה ומהמשרד לעצור את הניסוי בבני אדם, כי הנזק שאתם תעשו לדורות הוא עצום, ואף אחד לא הרשה לכם לעשות את זה.

תודה. יש לי דקה לתת לרועי. רועי, בבקשה.

שלום, לי קוראים רועי, ד"ר יוזביץ' מהמחלקה להנדסת מחשבים באוניברסיטת אריאל, אני פרסמתי את הסרטון ביוטיוב על בינה, מה שגרם בסופו של דבר לכך שהם כן סגרו אותה או לא סגרו אותה. אני רוצה להגיד שני דברים. קודם כול, מה שיש בתוך המערכת היום הוא בעייתי, אוקיי? גם דיברו על המערכת היום, מה שיש בתוך המערכת היום הוא בעייתי, דיברו מקודם על זה שהמערכת לצורך העניין מדברת רק על בינה מלאכותית עבור ילדים קטנים. הגברת ממועצת התלמידים היא בחורה גדולה ועדיין מדברים איתה רק על בינה מלאכותית.

וחשוב מאוד להגיד שרוב הדברים לגבי הפוליטיקלי קורקט הם לא רלוונטיים בבינה המלאכותית. זאת אומרת, מחקר שנעשה בניגריה לפני חצי שנה הראה שתלמידים עשו עם Chat GPT בשישה שבועות סילבוס של שנתיים. ניתן לעבוד עם הכלים האלה בצורה טובה וניתן שלא. ולגבי מילת הקסם הזאת, ביקורתיות, שעלתה פה הרבה בדיון, צריך להבין שמדובר במודלים חכמים מאוד, ולהיות ביקורתי כלפיהם זה לא טריוויאלי.

אפשר להידבר על זה שהמשטרה שבוע שעבר המציאה איזה פסק דין וזה כל כך משעשע, אבל מעבר לזה, אנחנו יודעים היום שחלק לא מבוטל, מעל 50% מהקוד שבינה מלאכותית כותבת, קוד תוכנה, מוטמע מבלי שיש לו שום שינוי. כאשר יש מודלים עם IQ ממוצע של 140, קשה מאוד להיות ביקורתיים כלפיהם.

ולגבי ה-PC של הבינה המלאכותית, אני רוצה לסיים בזה, אפרים קישון המנוח אמר פעם שמי שחושב שבמדינה קומוניסטית אומרים לכתב על מה לכתוב ואיך לכתוב לא מבין מה זה משטר טוטליטרי. אלא במדינה קומוניסטית מצופה מהכתב שידע בעצמו על מה לכתוב ואיך לכתוב, ומי שלא מבין בעצמו, עוזרים לו. הבינה המלאכותית של משרד החינוך אומנה על אילו תשובות הן טובות ולא טובות, וגם המחקרים שנגה ארבל עשתה ואנשים אחרים ומה שאני הראיתי, בסופו של דבר, היא אומנה לכיוון אחד מאוד, מאוד בעייתי. והנושא הזה הוא לא שהיא מצומצמת ולכן היא לא יכולה לפגוע, יש פה תהליך שבו היא אומנה לכיוון אחד.

וכשאתה אומר אומנה, רועי, אתה לא מדבר עכשיו על פוליטיקה, אתה מדבר על ידע.

על מה הן תשובות נכונות ומה הן תשובות לא נכונות.

וחשוב להגיד שאני, בתור בן אדם עם נטייה ליברלית, אני חושב שיש צדק וחשיבות לייצר מנגנוני רגולציה של בינה מלאכותית גם על הדברים האלה. יש גם חשיבות בתוך הפוליטיקלי קורקט.

זה מסוכן, מה שהוא אומר.

מה שחשוב להגיד, ועם זה אני רוצה לסיים, זה שחשוב מאוד שמשרד החינוך, לפחות בשלב הראשוני, אם הוא עובד עם כלים, ואני מזכיר שאלה לא כלים שהוא מפתח, הוא עובד עם Gemini, הוא עובד עם כלים של גוגל, אם הוא עובד עם כלים ועושה עליהם אדפטציות, שייפתח את זה בצורה שקופה, שיגיד איך בדיוק הוא עושה את זה, וזה מבחינתי קריטי לגמרי.

שקיפות.

אנחנו צריכים לסיים, אנחנו כבר ב-10 דקות איחור, נתתי לכם מעבר. אני רוצה לומר משהו מהתחושה שלי, שהדיון הזה, לא התחלנו אותו אפילו. יש פה אירוע שאני רק תוך כדי הישיבה, יוסי פשוט ביקש ממני להחליף אותו, לא הגעתי מוכן, אבל תוך כדי הישיבה הבנתי כמה האירוע הזה הוא אירוע מייג'ור, זה לא משהו קטן. אנחנו מחנכים איזשהו, לא משנה אם זה רובוט או תקראו לזה איך שאתם רוצים, לתת תשובות שאנחנו רוצים להאכיל בכפית את תלמידי מדינת ישראל, וזה מה שמפחיד אותי.

יכול להיות שאני טועה, יכול להיות שאני צודק, יכול להיות שאתם טועים, יכול להיות שהם צודקים, אני לא יודע, אבל לדעתי צריך לעשות פה דיון המשך, אבל מקצועי ממש עם מי שמאכיל בכפית את הבינה המלאכותית של משרד החינוך כדי להבין איך זה נוצר, כל הידע הזה.

אני מודה לכל מי שהגיע, במיוחד להורים שהילדים שלהם מאוד, מאוד חשובים, למועצת התלמידים, ואני חושב שאנחנו נצטרך לעשות דיון המשך בנושא הזה ולקבל ממחלקת המחקר עוד נתונים לגבי הבינה המלאכותית של משרד החינוך, זה חשוב לקבל את זה. תודה רבה, יום טוב.


הישיבה ננעלה בשעה 14:11.