国家间开展刑事司法协助的法律依据，大体上有四种：第一，国家间共同参加的国际公约，如1959年欧洲一些国家签订的《欧洲刑事司法协助公约》，2005年10月27日我国第十屑全国人大常委会第十八次会议审议并批准、2005年12月14日正式生效的《联合国反腐败公约》等。第二，国家间签订的刑事司法协助条约，如1987年我国与波兰人民共和国签订的《关于民事和刑事司法协助的协定》。第三，国家间临时达成的关于刑事司法协助的互惠协议，如1990年2月我国向日本国提出引渡劫机到日本的犯罪分子张振海，因两个国家间没有刑事司法协助协定，我国在提出引渡的同时，承诺在今后类似案件中，将向日方提供类似的协助，这就是一次两个国家达成的关于刑事司法协助的互惠协议。第四，国内的法律规定，如刑事诉讼法第17条规定：“根据中华人民共和国缔结或者参加的国际条约，或者按照互惠原则，我国司法机关和外国司法机关可以相互请求刑事司法协助。”
在我国，司法机关对外国提供刑事司法协助或者请求外国司法机关提供刑事司法协助，除了遵守上述中华人民共和国缔结或者参加的国际条约及刑事诉讼法第17条的规定外，还需要遵守有关的司法解释、行政法规。最高人民法院《解释》第18章“涉外刑事案件的审理和司法协助”、最高人民检察院《规则》第16章“刑事司法协助”、《公安机关办理刑事案件程序规定》第13章“刑事司法协助和警务合作”都是有关司法机关进行刑事司法协助时应当遵守的规定。
