제일 확실한 방법은, 실사 촬영분량을 스캔하고 트래킹해서 데이터를 추출해 내고, 그 데이터를 게임엔진에 넣어서 3D로 다시 재현하는 것입니다. 쉽게 말해 만들고자 하는 화면의 분위기가 나는 게임을 하나 만든다고 보면 됩니다. 당연히 이런 작업은 대형 블록버스터 급의 비용이 들기 때문에 아마도 지금 질문하신 의도에는 맞지 않는것 같고요. 그 다음으로 생각해봐야할 대안들을 고민해 봐야 하겠죠.

영상 효과중에 툰쉐이딩이라 불리는 효과가 있습니다. 원래 3D작업하고 출력을 셀 애니메이션 질감으로 출력하는 걸 말하는데, 비슷하게 영상을 소스로 그림같은 느낌을 내는 효과들도 있습니다. 보통 유화나 수채화 느낌을 내는 효과들인데, 정도를 조절하면 비슷한 느낌을 내는데 도움이 될 겁니다. 보통 2D CG팀에서 쓸 수 있는 효과고, 요즘은 색보정 툴에도 포함되어 있는 효과입니다.

여기서 중요한것은, 처음에 말한 실제 게임엔진을 돌리는것이 아닌이상, 어쩔수 없이 실사에 효과를 준 티가 날 수 밖에 없다는 점을 알고 계셔야 합니다. 그러니 효과로만 끝내려고 하지 마시고, 우리가 알고 있는 '게임'이라는 인식을 시켜줄 다른 장치를 추가할 준비를 하는게 좋습니다. 예를 들어, 게임이라면 미니맵이나 이런저런 UI화면이 같이 나오겠죠. 이걸 구현하면 그냥 효과만 준것보다 훨씬 더 게임이라는 인식을 줄 수 있을겁니다. 이런식으로 덧칠(?)할 아이디어를 최대한 활용해 보세요. 낮에 밤씬을 찍는 Day for Night 기법도 어둡게 찍고 색보정때 밤 같아 보이는 색보정을 하는것만 생각하지만 실제로 이런건 하면 할수록 별로고요. 촬영할때 밤에만 보이는 것들 그러니까 달, 별, 불켜진 전등 같은것들이 보이도록 세팅하는게 백 배쯤 효과가 좋은것과 같은 이치입니다.
그래서 더 효과적인 결과를 원하시면 어쪌수 없이 어느정도 분량은 실제로 3D로 제작해서 합쳐줘야 합니다.
예를 들어 블루스크린 앞에서 실사를 촬영한 분량에는 물감 효과를 주고 배경이 되는 부분은 3D에서 만들어서 합성하면 훨씬 더 게임같겠죠. 실제 게임화면에 사람만 합성한거니까요. 이경우 미리 3D모델을 준비해서 버추얼 스튜디오에서 촬영하면 동작 트래킹하고 합성하는 수고를 덜 수 있어서 효율적일 수 있습니다.
크로마키 합성도 부담된다면, 화면 위에 3D로 만든 게임 오브젝트를 추가하는 방법도 있습니다. 인물 앞쪽에 있으므로 관객의 주목을 받기 쉬운데, 이게 실제 게임같은 3D결과물이면 훨씬 더 게임 같겠죠.