关于训练时候loss一开始就很低？

要看你loss具体用的什么loss function了，有的loss function本身数值就很低

比如如果有用1-accuracy作为binary classification的loss，对于极度imbalance的数据，肯定初始值就很低了。

另外，建议从iteration 1开始，每10步看下Loss，这样你也清楚初始的情况；

对于很小的loss，精度可以多用几个小数位，你上面的例子就看不出来变化，因为都是小数点后面三位的优化了；

此外对比一下random guess的精度、benchmark的精度，这样才能确保你的模型是ok的。