黑箱理论源于控制论，指不分析系统内部结构，仅从输入端和输出端分析系统规律的理论方法。黑箱通常是一种隐喻，指的是“为人不知的、既不能打开又不能从外部直接观察其内部状态的系统”。算法黑箱指的是算法运行的某个阶段所涉及的技术复杂且部分人无法了解或得到解释。因此，算法黑箱的本质在于不透明、难解释。 

　　算法黑箱是一个普遍存在的现象。不同类型算法的黑箱属性强度不同：规则驱动的算法通常基于人工编制的算法规则，此类算法过程较透明、可人为干预。虽然此类算法的运算过程相对简单、可解释性较强，但是通过人为操作，可以被包装成具备较强黑箱属性的算法；数据驱动的算法是目前的主流算法，算法运行过程复杂，难以人为干预，不可控性更强，天然具备很强的黑箱属性。因此，对算法黑箱的成因可以归于主观和客观两方面： 

　　（一）主观因素 

　　由于算法设计研发过程是封闭的，互联网平台企业为了实现自身利益诉求，将利益企图和行为指向植入规则驱动的算法中，并以算法安全与算法保密为由，人为构设一种故意不透明的算法黑箱，以避免因程序漏洞、方法不当、违规违法等问题而遭受指控。以算法自动化运行为借口，将引发风险的责任归咎于算法技术本身，使得监管机构更加难以监管。 

　　（二）客观因素 

　　一是算法本身以计算机编程语言的形式呈现其逻辑，而不是能被大多数人所理解的自然语言，普通公众不清楚算法的设计理念与目标，也无从获悉数据的挖掘方式与确证情况，更无法确定算法责任归属及对算法进行监督评估。 

　　二是目前数据驱动的算法主要采用深度神经网络技术，算法核心部分是通过对数据进行自动学习而自动生成，并非人工设计，人难以知晓具体的学习过程，对算法结果“知其然而不知其所以然”。