По ссылке в Game boy вроде такие LCD стоят? Там есть временные диаграммы, сможете их реализовать на AVR? Если нет, то ищите готовую микросхему контроллера, например у Epson, там должны быть такие микросхемы.
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)