根据搜索结果，小明数学书的数量因题目条件不同而存在多种情况，具体如下：
基础数量关系 若小明共有30本书，且数学书是语文书的2倍，则数学书有20本。
不同书架场景
- 若书架原有12本书，其中历史书和科学书共8本，则数学书有4本。 - 若书架有6本数学书，历史书是数学书的5倍（即30本），英语书比数学书与历史书总数多3本（即39本）。
比例与花费问题
若小明带的钱可买12本数学书或9本语文书，用这些钱买了8本数学书后，剩余钱可买6本语文书，总共买了14本书。
总结：
小明数学书的数量需结合具体题目条件判断，常见答案为20本、4本、39本或14本。