דוגמה מההרצאה: (משתנה אסימטרי- כשלערך אחד יש יותר חשיבות מהשני). דוגמה של טקסט- אפשר למצוא הרבה מילים שלא מופיעות בשני מסמכים. האם זה אומר שלמסמכים יש משהו משותף? כנראה שלא (פחות חשיבות). אבל אם יש קבוצה של מילים שמופיעה גם במסמך הראשון וגם בשני אז כנראה שיש דמיון (יותר חשיבות). מופע או אי מופע של מילה מסויימת זו דוגמא של משתנה בינארי אסימטרי.
רוצים למקסם את רוחה השוליים מתוך מטרה לצמצם את התצפיות החריגות ולתת מרחב בטחון. המטרה של SVM למצוא מפריד בעל השוליים הרחבים ביותר וכך הוא יהיה יותר מדויק.
במקרה הגרוע לכל אחד מהתצפיות יש ערך שונה לתכונה זו ולכן כדי לחשב את האנרופיה נעשה לוג 2 של מספר האפשרויות (ערך האנטרופיה המקסימלית) ולוג 2 של 1000 שווה 9.96.
מיין לפי
הערך המקסימלי של ההפרש בין דיוק האימון לדיוק המבחן של מודל לסיווג הוא
ראשית עלינו להגדיר מהו משתנה המטרה שלנו לפני שמתחילים בתהליך.
השלבים: הגדרת מטרה, השגת נתונים, ניקוי/הכנת נתונים, הרצת אלגוריתם (מודלים שונים), השוואה בין מודלים.
מיין לפי
האנטרופיה של הטמפרטורה בשעה מסויימת צפויה להיות הגבוהה ביותר בהינתן