Stencilバッファを使ったUIのマスキングは？

見えない「型抜き（マスク）」を作って、その内側だけに描画を許可する仕組みです。

UIのスクロール枠からはみ出た部分を隠す機能（Maskコンポーネント）の裏側で使われている、ピクセル単位の高度な描画オンオフ機能です。

UIの場合は、親オブジェクトに Mask または RectMask2D コンポーネントを付けるだけで自動的にStencilが設定され、子オブジェクトがマスクされます。3Dモデルの自作シェーダーで実装する場合は、Shader Graphの設定ではなく、HLSLコード側でStencilブロックを記述する必要があります。