אקטיבצייה מסוג RELU מעצימה את בעיית הגראדיינט המתפוצץ מכיוון שהיא מונוטונית עולה ולא חסומה