到蒙古入主中原后，元世祖忽必烈听信高丽人赵彝之言，于至元十一年（公元1274年）、至元十八年两次远征日本，结束了两国自三国到唐、宋以来相对友好关系，开始了敌对状态，进而东南沿海开始出现倭寇。

为了对付倭寇，元朝先于大德七年（公元1303年）取消了市舶机构，并&ldo;禁商下海&rdo;，在至大元年（公元1308年）又重新恢复，至大四年再度取消。

而日本政府也因为恐惧元军的再度入侵，因此加强海防，终元一朝不曾与中国来往。

到了元末明初，由于陈友谅、张士诚、方国珍等人所部多有水师，而他们在被朱元璋消灭后，部下颇有逃至海上在两国间以走私和海外贸易为生的，甚至后来的明建文帝，也有说是去了南洋，而郑和下西洋的原因，就有人认为是去寻找建文帝，并试图将其消灭以绝后患的。

于是朱元璋在消灭南方敌对势力准备北上灭元前，很担心南方敌对残余势力勾结倭人入侵沿海，因此于洪武元年（公元1368年）、二年、三年、五年数次遣使去日本交好，但日本这时正好处于南北朝交战时期，道路为南朝所断，朱明交好的意图未成，因此开始实施海禁政策。

到后来日本南朝为北朝所并吞，有相当部分武士成为了为浪人，部分浪人则沦为了海盗，前来骚扰中国沿海。

但因为此刻明军战斗力强盛，水师也堪称一流，外加日本也是战后百废待兴，所以倭寇属于零散现象，没有形成气候，为祸不算太大。

只是倭寇的出现，却使得明政府采取了一项重大的错误政策，也就是开始全面地绝对禁止民间海上贸易的海禁政策。

根据《明史》记载，在洪武三年（公元1370年），朱元璋下令关闭了&ldo;太仓黄渡市舶司&rdo;；七年，撤销自唐朝起就担负着海外贸易功能的福建泉州、浙江明州、广东广州三市舶司，官方海外贸易市场彻底关闭；十四年，&ldo;又下令禁濒海民私通海外诸国&rdo;，此刻连素与明朝交好的东南亚各国也不能来华进行贸易及文化交流了；十九年，废昌国县；二十年，强行将舟山岛及其他四十六岛（山）的居民全部迁入内地；二十三年，再颁&ldo;禁外藩交通令&rdo;；二十七年，禁止民间使用及买卖舶来的番香、番货等海外产品；三十年，再次颁布法令，禁国人下海通商。

为了加强海禁，彻底断绝沿海地区与海外各国的贸易和文化交流，朱明政府又在《大明律》中规定道：&ldo;擅造三桅以上违式大船，将带违禁货物下海，前往番国买卖，……正犯比照己行律处斩，仍枭首示众，全家发边卫充军。

其打造前项海船，卖与夷人图利者，比照将应禁军器下海者&rdo;。

同时，对持有和使用、买卖海外产品的百姓和商人，也实行了严酷的制裁。

如前所说于洪武二十七年禁止民间使用及买卖番香、番货等物一条，就有对应的制裁政策：&ldo;敢有私下诸番互市者，必置之重法、凡番香、番货皆不许贩鬻，其现有者限以三月销尽&rdo;、&ldo;番货到来，私买贩卖苏木、胡椒至一千斤以上者，……发边卫充军。

&rdo;

而在日本，当南北朝混战结束整个社会恢复到一定程度后，便开始感受到了明朝海禁带来的影响，尤其是高、中档消费品和奢侈品的严重缺乏，让幕府和各大名以及上层社会深感不适，而丝绵、棉布、铁器、茶叶、药材等大量的生活用品及物资的的缺乏，也给百姓生活带了极大的不便。

因此在应永九年（公元1401年），后小松天皇遣使入明朝上表，这是明朝开国后日本第一次递交的正式表文。

在明成祖朱棣，也就是永历大帝即位后，日本又再次派遣派使者来华，成祖也派出了左通政赵居任出使日本，并发给日本政府&ldo;本&rdo;字勘合一百道，&ldo;诏日本十年一贡，人止二百，船止二艘，不得携军器，违者以寇论&rdo;（《明史》），同时令日本禁止倭寇骚扰我沿海地区，这就是所谓&ldo;勘合贸易&rdo;。

事实上勘合贸易并不是真正意义上的贸易，而是一种朝贡性质的交换行为。

以天朝上国自居的明朝，在收到日本等国送来朝贡品后，多以几倍甚至数十倍的价格以及物品回报，&ldo;诏日本十年一贡&rdo;，也表明了这一贸易的性质。

由于勘合贸易在一定程度上缓解了物资短缺的局面，所以在永乐初期两国关系的发展还是比较良好的，日本政府不但几次进贡，甚至还将抓获的倭寇送交明朝来处理：&ldo;明年十一月来贺册立皇太子。

时对马、台岐诸岛贼掠滨海居民，因谕其王捕之。

王发兵尽歼其众，絷其魁二十人，以三年十一月献于朝，且修贡。

帝益嘉之，……而还其所献之人，令其国自治之。

使者至宁波，尽置其人于甑，烝杀之。

……五年、六年频入贡，且献所获海寇。

……八年四月，义持遣使谢恩，寻献所获海寇，帝嘉之&rdo;（《明史》）。

只是这么小的勘合贸易数量，并不能完全解决两国贸易和社会发展的需要，甚至为了争夺和明朝的贸易权，两个日本使团还在中国爆发了一场&ldo;争贡之役&rdo;，并因此在沿海地区引发了一场小骚乱。

而有贸易需要的也并不只是日本一方，当时中国南方地区对出口贸易的需求也相当迫切，所以虽然两国政府都严加镇压，但两国走私集团以及倭寇的活动还是加剧了。

明朝政府曾因此向日本政府问罪，而日本的日向、大隅、萨摩三州刺使岛津腾存忠，也派遣使者奉表来明告罪，但指出倭寇并非是日本政府支持的，属于民间犯罪行为。