v.v.b.: В общем почти разобрался. Приходится для винды делать "chcp 1251" и принудительное конвертирование в cp1251 при вводе строк и при выводе. при этом обработка внутри кода происходит в utf8. добавлю ещё автоопределение ОС, на которой выполняется запуск кода и тогда как бы типа на автомате будет работать и под линукс и под виндовс. но вообще я разочарован. 21 век в разгаре, а луа под винды с utf8 нативно не работет...
Ссылка:
http://instead-games.ru/forum/index.php?p=/discussion/comment/13581/#Comment_13581