Здесь проблема скорее всего в том, что LM358 не совсем Rail-to-Rail по выходу. Если подадите на вход 0, то на выходе увидите те же десятки милливольт (типа бесконечный Кус :))). Что сделать?
Полностью избавиться от проблемы можно только двухполярным питанием ОУ. Частично избавиться можно взяв хороший Rail-to-Rail ОУ. Или же сместить выход ОУ на какое-то постоянное значение от опорного напряжения АЦП. При этом потеряете небольшой участок входного диапазона АЦП, но зато полностью уйдете от проблемы.