Unity LayerMask避坑笔记
今天使用Physics2D.OverlapAreaNonAlloc进行物理检测时候，通过LayerMask.NameToLayer传入了int值的LayerMask，结果一直识别不到，经过Debug才找到问题，竟是LayerMask的“值”传输有问题，记录一下。
直接贴代码输出结果，这里新增一个Layer： “TestLayer”，挂载脚本，运行，代码后面是对应的输出，如图：
代码如下：
using UnityEngine;public class LayerTest : MonoBehaviour
{public LayerMask layerMask; //=> TestLayerprivate void Awake(){Debug.Log(layerMask.value); // => 64 Debug.Log((int)layerMask); // => 64Debug.Log(gameObject.layer); // => 6Debug.Log(LayerMask.NameToLayer("TestLayer")); // => 6Debug.Log(LayerMask.GetMask("TestLayer")); // => 64 }
}
可以看到，对我们定义的LayerMask类型，无论是强转还是直接取值（前两句输出），获取到的值是枚举的实际值，是1<<6的结果， 而直接获取对象的Layer和通过LayerMask.NameToLayer
（第三，四句输出）获取到的值，都是对应在LayerManager里面的索引，这两个是完全不一样的值。而LayerMask.GetMask（第五句输出）获取到的值也是枚举的实际值，注意LayerMask.GetMask的传参的不定长的字符串数组，获取到的是传入的字符串转换成LyaerMask后做“和”运算的结果。
Physics2D.OverlapAreaNonAlloc参数里需要的LyaerMask值是枚举的实际值，而不是索引值，所以不能使用LayerMask.NameToLayer获取，所以检测不到，应该使用LayerMask.GetMask获取。
总结，在遇到LayerMask类型的参数时，要先确定是要索引值还是实际值，再确定如何获取，一般来讲，如果该参数包含多种LayerMask枚举时，那么该参数就一定是要取实际值而不是索引值的。物理引擎中，Layer检测一般是检测很多种类的，所以应该用实际值。