נוירונים ומשקלים.

שלב 1 מתוך 5

נוירון

ישר הוא מודל של קלט אחד. כשיש כמה קלטים, למשל שני המספרים שקובעים מקום של נקודה, משתמשים בנוירון: יחידה קטנה שכופלת כל קלט במשקל, מחברת, ומוסיפה הטיה:

$z = w_1 x_1 + w_2 x_2 + b$$z =$$w_1 x_1 + w_2 x_2 + b$⁠

משקל גדול פירושו שהקלט חשוב; משקל שלילי, שהוא נגד. השם בא מתאי העצב במוח, שמסכמים אותות מתאים אחרים, אבל הנוירון המלאכותי הוא רק החשבון הזה.

שלב 2 מתוך 5

הפעלה

אחרי הסכום, הנוירון מעביר את $z$⁠ דרך פונקציית הפעלה. נוירון הפלט ברשת שבסצנה משתמש בסיגמואיד,

$\sigma(z) = \frac{1}{1 + e^{-z}}$$\sigma(z) =$$\frac{1}{1 + e^{-z}}$⁠

שהופך כל מספר לערך בין $0$⁠ ל־$1$⁠: $z$⁠ שלילי גדול נותן כמעט $0$⁠, ‏$z = 0$⁠ נותן חצי, ו־$z$⁠ חיובי גדול כמעט $1$⁠. הנוירונים הנסתרים משתמשים בפונקציה דומה, שנותנת ערך בין $-1$⁠ ל־$1$⁠.

שלב 3 מתוך 5

שכבות

נוירון אחד יודע לחלק את המישור בקו ישר בלבד. כדי ללמוד צורות מסובכות מסדרים נוירונים בשכבות: שכבת הקלט, שכבות נסתרות, ושכבת פלט, וכל נוירון מחובר לכל הנוירונים בשכבה הבאה. הרשת בסצנה מקבלת מקום של נקודה, $(x, y)$⁠, ומחליטה אם היא כחולה או כתומה.

שלב 4 מתוך 5

פרמטרים

המשקלים וההטיות הם הפרמטרים של הרשת, כמו $a$⁠ ו־$b$⁠ של הישר. הם כל מה שהרשת “יודעת”; המבנה לבדו לא יודע כלום.

שלב 5 מתוך 5

לקרוא קישורים

הרשת כאן כבר אומנה. כל קישור מצויר בעובי של גודל המשקל שלו, בכחול כשהמשקל חיובי ובכתום כשהוא שלילי. נקודה מהנתונים עוברת ברשת, והנוירונים נדלקים לפי ההפעלה שלהם.