Это очень популярная тема в американской психологии.
Правда, исследования на эту тему имеют явную тенденцию клониться в сторону популярной, а не научной психологии.
Классик этого направления -
Пол Экман, есть несколько русских переводов его книг.
Лично я в этом вопросе не разбирался, но думаю, что да, в какой-то степени возможно по мимике и жестам определить, говорит ли человек правду. Но только в какой-то степени. Потому что любому движению человека всегда может найтись и бесконечно много других объяснений. Такие формальные методы могут быть только подспорьем, но нельзя полагаться на них целиком.
Вообще, на мой взгляд, когда о человеке хотят судить в основном с помощью таких формальных методов - это всё американский подход к человеку.
Здесь духовный уровень (того, кто хочет понять другого человека) заменяется формальными приёмами.