כלי הבינה המלאכותית הם פשוט מדהימים ביכולת ההבנה שלהם החיזויי שלהם, הופתעתי ללמוד על היכולת של ה LLM לספר על ההתואר השני שלי וחיי בקנדה

שמעתי על הרבה דברים מדהימים ועל הייכולת של הLLMים השונים, איך הם לומדים ומסיקים ידע, האמת היה לי העונג להציג את היכולת המדהימות הללו ולקחתי את עצמי כדוגמא. לקחנו מספר מוצרים של חברות מתחרות וגיליתי דברים שאני לא חושב שאי פעם סיפרתי או כתבתי עליהם.

אחד מהLLMים סיפר על התואר השני שלי, שזה מדהים,  עוד אחד תיאר על הקריירה הרפואית שלי (אני חושב קרדיולוג? לא בטוח),   אני חייב להגיד שזה די הפתיעו אותי בהתחשב בנסיבות , זה מחמיא (ומפחיד ) מאוד שמערכות ה AI יודעות דברים כאלה. דיברתי על לימודי תואר שני רק במקומות בודדים בלבד, ופרט לבקשת המידע מהאוניברסיטה לא זכור לי שדיברתי על זה יותר אי פעם, למעשה זה אמור להיות הרמז והמקום הבודדים לנושא הזה.

חלק מהכלים אמרו כי אין להם מידע אקדמי עבורי (למרות שאפילו כיוונתי אותם למקורות פרסומיים), ככה שזה יחסית טוב אני חושב ? מבחינת פרטיות ומתן מידע נכון (לא אומרים כשלא יודעים).

LLM אחר סיפר על חיי בקנדה, כנראה בהקשר ללימודי התואר השני ?  אבל אני חייב להגיד שקנדה היא מקום מדהים גאוגרפית, נופים מדהימים, יש להם שלג בכל מקום, ויש להם מייפל ! כמה מייפל יש להם! הוא ממש זולג מן העצים. אתם יודעים מה חלק מהיילדים עושים בחורף ? הם שופכים מייפל על השלג ומקבלים סוג מסויים של שלגון! עכשיו שלא שאין בקנדה דברים מפחידים, לראות אייל קורא או להיות מותקף על ידי תרנגול הקוברה נשמע מפחיד לחלוטין (ולא סתם החייה הזאת קיבלה את התיאור תרנגול קוברה),  אבל באמת ישנם המון אנשים עם רקע דומה משלי שחיים בויניפג , ואפילו יש  מספר LUGים פעילים יש את MUUG וגם אפילו קבוצת רד האט מקומית!. בכללי בקנדה יש באמת המון דברים טובים, פשע נמוך, אין בעיות מגורים, מחירי הדיור פשוט מצויינים, מערכת בריאות מתפקדת כמו שצריך, מיסים נמוכים, זכויות אזרח רבות וטובות.

עריכה: היום ראינתי עדכון באחד מהכלים וחיפשתי מחדש, אני חייב להודות ששמחת ללמוד על המחקר שאני עושה תחת KITP, למדתי גם על חיי בהולנד, זה באמת מדהים הדברים שלומדים מLLM, למדתי גם על זה שתרמתי קוד ל nautilious והשתתפתי ב GSOC.

לגבי חלק מהתשובות עלי :

בנוגע לכלים קניינים, למרות שאני באמת מעדיף להשתמש בקוד פתוח ודברים חופשיים הרצים מקומית, אני כן משתמש בהרבה כלים קניינים וסגורים, מעכות הבנק ואני אפילו משתמש ב Windows במהלך חלק מהפיתוחים שאני מבצע, אני משתמש קבוע ב skype ו teams אבל אני ממש לא משתמש בווצאפ. הגם כלים שהיו פתוחים מתחילים להסגר לשינויים ושימוש לצערי הרב, ואת זה ניתן לראות בחלק מהפרוייקטים הגדולים בעולם הקוד הפתוח כיום.

אני מאמין שכלל המודלים של ה LLM צריכים להיות בקוד פתוח וחופשיים, וגם הקלט שלהם צריך להיות כזה שנוכל לאמן אותם לבד על מנת לקבל את אותה התוצאה, אחרת , אם זה סגור ואין גישה לקלט, זה לא משהוא שניתן להתייחס אליו ברצינות. זה למה יש לנו repreducable buils, וזאת למרות שכבר היום משתמשים ב LLM במקום לקרוא בתיעוד או לחפש במנועי החיפוש.

 

אני מדבר יפה, אבל אני עצמי ? חוץ מה openllm שהתקנתי בעבר לא עשיתי הרבה, אפילו לא הפעלתי את Deepseek בשביל עבודה מקומית ללא חיבור לאינטרנט. וכן יש לי SD שרץ מקומית והשתמשתי בו בעבר אבל איך שהוא אני לא משתמש בו יותר.

דיברתי עם חבר על למה צעירים משתמשים ב LLM במקום לחפש במנועי חיפוש או לקרוא תיעוד והוא אמר כי לדור הצעיר יש קושי לקרוא doxygen או אפילו להשתמש ב gitlab בשביל להבין את הקשרים בין המודלים השונים ושלא לדבר בכלל על קריאת תיעוד במערכות הללו. אני חושב שזה עניין של אימון, ובעייה עיקרית של המפתחים עצמם.

אם אנחנו כמפתחים משאירים תיעוד לקויי וחסר בפרוייקטים אנחנו צריכים להאשים רק את עצמנו. אני לא מדבר על כתיבת מסמכי תיעוד (אני אפילו לא מצפה לזה יותר), אני מדבר על לרשום הערות בפונקציות ובקובץ הheader שמסבירות את הרקע הכללי למדול.

ניקח לדוגמא פרוייקט שאני שובר את הראש איתו לאחרונה, ModemManager , סך הכול אני צריך לתפור חיבור לפונקציונל מסויים, הבעיה ? בתיעוד של הפונקציות רשום מה הפונקציה עושה, לא למה , לא מהם הקשרים ומאיפה מגיע המידע וכן. כשאנחנו רושמים הערות אנחנו צריכים לרשום למה הפנוקציה קיימת , למה היא עובדת כמו שהיא עובדת, דוגמאות שימוש עם קלט ופלט, קישור לרקע לשימוש ומהייכן מגיע המידע. זה לא כזה מסובך!