至元三年（1266年），忽必烈遣兵部侍郎郎赫德、礼部侍郎殷弘出使日本。忽必烈在国书中，对这次遣使的目的讲的极其清楚，要日本效法高丽，举国来朝以通和好，如不相通好，将至“用兵”，令日本“王其图之”。被日本以书辞无理，不能接受，予以退回。此后几经出使，均被日本拒绝。
从至元十年（1273）起，忽必烈开始着手部署征日战争。至元十年四月，耽罗岛林衍起义，反对高丽王的统治，忽必烈乘机派元军驻高丽。之后，元军于耽罗岛设招讨司，驻扎镇边军一千七百人，从而控制了日本与南宋间的海上通道，由此可以使元军可以全力进攻日本。随后，忽必烈召忻都、金方庆等至元大都（今北京）商议征日事宜。至元十一年（1274）正月，忽必烈命令高丽王造舰九百艘，其中大舰可载千石或四千石者三百艘，由金方庆负责建造；拔都鲁轻疾舟（快速舰）三百艘，汲水小船三百艘，由洪茶丘负责建造，并规定于正月十五日动工，限期完成。
六月，九百艘军舰完工，上报世祖忽必烈，忽必烈遂命令由蒙、汉、高丽三族军队组成的联军，东征日本。联军的核心是蒙元部队计有蒙汉军二万人、高丽军五千六百人，加上高丽水手六千七百人，共三万二千三百人，由征东都元帅忻都、右副帅洪茶丘、左副帅刘复亨统帅，八月出发。
当时的蒙古军队经过成吉思汗的训练，军纪森严，每十人、百人、千人、万人各为一个战斗队，每队设一长率领，组织极为严密，因此英勇善战，战斗力很强。此外，元朝当时的火器使用技术在世界上处于领先水平，曾经威镇欧洲,所以火炮作为此次征日作战的秘密武器,出现在元军的战斗序列中。
而日本武士部队的基础是守、介地头制（庄头制），是源赖朝建立幕府时期形成的兵制。任守、介地头职的武士，多为有功于历代将军或执权的家臣，即“御家人”。守，是掌握某一地方兵马大权的最高行政长官，但从其品秩看，也不过是从五位上到正六位下的中下级官员；地头，是管理公私土地进行征税的官吏，并对其管理的土地拥有警察权，其职位更低，隶属于守。他们按其管理的土地面积大小，蓄养私兵。某一守率队出征，其一族的家人、族人即成为该守部队的骨干随同出阵，守所辖的地头，亦率其家人、郎黨自成一队，归守指挥。这种主从关系构成的部队，组织巩固，不易溃散，散而可以重聚。家臣以死于君主马前为荣，因此战斗力颇强。但是，这种队伍又各自为战，指挥不统一，战斗时偏重于一骑对一骑的单打独斗方式，因此战斗几乎是混乱、无组织、无纪律的，不易于指挥，无战术可言，根本无法和元军相抗衡，整体战力相当弱。
至元十一年（1274）侵日元军在忻都、洪茶丘、刘复亨三将的指挥下，十月三日从高丽合埔（今韩国镇海湾马山浦附近）出发，驶向对马。十月五日逼近对马岛。当地地头宗马允助国，召集八十余骑弛向元军登陆据点，双方展开激战。由于众寡悬殊，宗马允助国及其嫡子养子共12人战死，对马守护军全部被歼，六日占领对马岛。也有史料记载宗马允助国是在壹歧岛战死。十四日傍晚，元军攻入壹岐岛。元军二船约四百人先行登陆，部队上陆列好队伍后即立赤旗为标记，与守护军左卫门尉平经高（平内左卫门景隆）所率领的百余骑激战。经高军战斗不利，退于城内防守。十五日陷城破，经高自杀殉城。十六日，元军逼近了肥前沿海岛屿及西北沿海一带。
肥前是日本九州的西南沿海地区的古地名，包括了今天的长崎和佐贺两县。当时日本也是实行闭关锁国的政策，在九州的大宰府设立总督府——太宰府，负责九州的军事防卫和国家的外交，因此肥前地区实际上是日本对外交流的窗口，多次受到外来文化的侵蚀和军事力量的打击，而它的佐世葆军港，至今还是美国太平洋舰队的重要基地，至于长崎，相信谁也不会忘记落在它头上的那颗原子弹带给世人的震惊。
大宰府西守护所少贰兼任“三前二岛”守护藤原经资得到元军进攻对马的战报后，一边上报幕府，一边部署防御。而战报在十月十七曰方送到镰仓幕府，十八曰至京都。到十月二十二日，方知对马岛为元军所占领，而这时，元日第一次战斗已经结束了。从这一情况来看，日本朝廷和幕府对元军侵日战争，没有任何具体的部署和指挥，战斗主要在大宰府少贰藤原经资的指挥下进行的。
元军并没有在肥前登陆向纵深发展，而是把主力转移向博多湾。十月十九日，元军舰队进攻博多湾，杀散海滨守军占领今津一带。由于今津一带地形不利于大部队展开作战，且距离大宰府尚有一日行程。因此元军当晚回到船上，准备次日进攻大宰府。
二十曰晨，元军展开登陆战，一部元军从博多湾西部百道源滨海一带登陆，昨晚已在此布阵的第一线指挥藤原景资所率领的五百骑兵，并没有趁元军登陆半途截击，而是在元军登陆整顿好队型后，方才按日本当时会战的惯例，由主攻部队放“鸣镝”表示进攻开始，这种战术不过是中国春秋时期宋襄公的翻版罢了。日军由一名武士单骑溺战，冲在前边，大队骑兵随后冲杀。当日本武士骑兵部队逼近时，元军鼓声大作，杀声震天，硬弓短矢，大炮轰鸣，日本武士对元军的战术，完全没有思想准备，心惊胆战，战马惊恐不前；两军刚一接触，日本武士军队便死伤严重，百道源战场日军“伏尸如麻”，元军很快推进至鹿原。
另一部元军攻入百道源西部的赤坂，肥后武士菊池二郎武房率自己所部武士一百三十骑与元军展开战斗。大宰府少贰藤原经资所率领的武士部队，按一族一门的战斗组织形式，轮番与占领赤坂的元军进行殊死战斗，终于迫使这部分元军向鹿原方向后撤。火炮在战斗中发挥了重要作用。在元军撤退时，肥后武士竹崎季长率自己的族人四骑，尾追元军，负伤落马侥幸未死。元日战后，竹崎季长以自己参加战斗的经验和目睹实况为基础，绘画《蒙古袭来绘词》一卷，为研究元日战争留下了比较逼真的史料。在其中一幅画的左面，画有一个正在爆炸火光四射的球形铁火炮，说明火炮在这次战争中的应用。《太平记》中也记载：“击鼓之后，兵刀相接，抛射出球形铁炮，沿山坡而下，形如车轮，声震如霹雳，光闪似闪电，一次可发射两三个弹丸，曰本兵被烧害者多人，城上仓库着火，本应扑灭，但无暇顾及。”
鹿原及鸟饲一带的元军，继续登陆，扩大占领地面。日本北九州各地武士如怡土松浦黨、原田一族、日田、栗尾、山田氏等所率各队武士，先后赶到战场，一队一队轮番进攻元军。尽管武士军队人数不少，但就每一队而言，都教元军为少，因而死伤惨重。
这时，另一部分元军从博多湾东部箱崎方向登陆，占领岸边松林，从背后夹击与百道源元军作战的日本武士。该地守军大友赖泰的武士队伍经不起元军的夹击，开始向东南方撤退。由于大友赖泰部队的撤退，与百道源元军作战的日军腹背受敌，被迫向大宰府水城方向撤退。
二十日，元军与日军激战了一整天，近傍晚时候，博多湾箱崎等地先后落入元军之手，日军被迫全军撤退，但元军紧紧咬住不放，随着撤退的曰军节节进逼。元军左副帅、作战指挥刘复亨为了更好地指挥作战，从高坡走下骑马前进。这个情况被日军前线指挥藤原景资发觉，他立即引马搭箭，将其射落马下。元军统帅受伤，使进攻的势头略受挫折，加之天色昏暗，遂停止进攻。这时，日军方摆脱元军的追击，迅速退往大宰府水城。日军撤退后，没有来得及逃走的老幼妇女，被俘近一千五百余人。
夜幕降临后，战斗基本停止，受伤的左副帅刘复亨，先行上船。元军统帅忻都召集其余将领讨论明天的军事行动。经过一天的战斗，元军对日本武士的勇猛战斗，颇有惧意，而且对一队队参战的武士部队难以估计其准确数字，以为数倍于元军。同时元军虽然占领了滩头阵地，但死伤不少，兵疲矢尽，并且统帅受伤，这些对久经战阵的元军统帅忻都产生了影响，从而不能准确地判断出战争双方的形势。高丽军将领金方庆比较冷静，他看到当时的战争形势对元军比较有利，只要坚持苦战，便能攻克大宰府，保住阵地以待援军。所以，他建议：“我军虽少，但已入敌境，人自为战，即孟明焚舟、淮阴背水计也。”但是另有打算的忻都否决了金方庆的意见，他认为：“小敌之坚，大敌之擒。策疲兵入境，非完计也，不若班师。”于是忻都决定，全军撤退到船上，明日班师。
如果元军就此班师回去，到也不算失败，顶多是打个平手，但天有不测风云，就在忻都决定班师的前一天晚上，博多湾出现了罕见的台风暴雨。日本群岛四面环海，除东北部沿海外，均被来自热带太平洋的暖流所环绕，也就是我们常说的黑潮，气候形成较温和潮湿的海洋性季风气候。在每年八、九、十月间，日本西部和南部常遭台风袭击；博多湾恰好正位于台风的袭击区内，恰好就在元军准备回国的最后时刻，台风也恰好赶到了。
由于不熟悉地形，元军停泊在博多湾口的舰队一片混乱，不是互相碰撞而翻，就是被大浪打沉；午夜后，台风渐停，但暴雨又降，加上漆黑一片，落海的兵卒根本无法相救。忻都怕日军乘机来袭，下令冒雨撤军回国。此役，元军死亡兵卒达1.35万人。日本史书则称之为“文永之役”。
第二天即二十二日早，日军在大宰府水城列阵，但不见元军进攻，派出侦察人员始知博多海面已无元军船只，元军撤退了。日本朝野对突如其来的台风赶走元军十分惊喜，在全国范围内展开了大规模拜神活动，称为“神风”。此后“神风”一词陪伴了日本人670多年，直到公元1945年。
元世祖忽必烈第一次派遣元军入侵日本的目的，在于威吓日本，使其迅速通好，尚无灭日的决心。忻都等元军统帅利用忽必烈的这种想法，巧妙地掩饰了遭风败退的事情，以“入其国败之”的战绩，上报世祖。忽必烈信以为真，认为日军在元军的打击下，受到了应有的惩罚，必将立刻与元通好。因此，大赏征日有功将士，同时决定派出礼部侍郎杜世忠、兵部郎中何文著等，携带国书出使日本，以求通好。四月，元使杜世忠一行绕过大宰府，直抵长门室津（今天日本本州西南沿海山口县），企图顺利地闯过关卡，到达京都或镰仓。但长门守护却将元使杜世忠等人押送大宰府，然后上报幕府。北条时宗得到此消息后，立命将元使送至镰仓。然而，北条时宗，既无接受国书，也不考虑其他后果，下令将元使杜世忠一行三十余人斩首于镰仓龙口，只放逐了四名高丽船员。
五年以后，元世祖忽必烈再次部署远征日本，后仍因台风以失败告终，而且损失惨重。
元世祖忽必烈首次证日的目的，在于威吓日本，使其迅速通好，尚无灭日的决心。忻都等元军统帅利用忽必烈的这种想法，巧妙地掩饰了遭遇台风败退的事情，以“入其国败之”的战绩，上报世祖。忽必烈信以为真，认为日军在元军的打击下，受到了应有的惩罚，必将立刻与元通好。因此，大赏征日有功将士，同时决定派出礼部侍郎杜世忠、兵部郎中何文著等，携带国书出使日本，以求通好。但日本的北条时宗，既无接受国书，也不考虑其他后果，下令将元使杜世忠一行三十余人斩首于镰仓龙口，只放逐了四名高丽船员。因此，元使被杀的消息并没有立刻传入元都。
至元十六年（1279），南宋灭亡，元统一中国。这时忽必烈才注意到杜世忠等尚无消息。南宋降将范文虎奏请以个人名义写信给日本，请求通好。范文虎的使者周福，在同年六月入日，八月被杀于大宰府。忽必烈要求通好的努力毫无结果，迫使他下了征服日本的决心。同年，忽必烈任命忻都和洪茶丘为第二次征日的元军统帅，同时命令高丽王再次造舰九百艘。至元十七年（1280），杜世忠被杀的消息传来，使忽必烈更坚定了征日的决心，遂着手建立海军。
忽必烈命范文虎去江南收集张世杰旧部及其他自愿从军者计10万人，战船3500艘，组成江南军，由范文虎统帅，从庆元（今浙江宁波）起航，跨海东征日本。这一路军队的派出，很大程度是由于南宋灭亡后处理投降兵卒的需要。另一方面，另命洪茶丘至东北，招募沈阳、开原等地自愿从军者3000，归洪茶丘统领。忻都仍统领蒙族军。又任命高丽将领金方庆为征东都元帅，统帅高丽军一万、水手15000，战船900艘，军粮10万石。三军合计近4万人，组成东路军，取道高丽东征日本。军事部署完成后，忽必烈于至元十八年（1281）正月，召集两路征东军统帅会议，并任命宿将阿刺罕为两路军总指挥。会议确定，两路军各自择日出发，于六月十五日至壹岐岛会师。同时，忽必烈命令各船携带农具，以备占领九州后做囤田之用。由此可知，忽必烈此次征服日本之心甚坚，并作了长期征战的打算。
至元十八年（1281）初，元世祖忽必烈征日军事部署已经基本完成，即将择日下令出征。恰值此时，高丽王上书朝廷称日本武士犯边。于是，元世祖下令征日大军出发。五月三曰，元军东路征日军进攻对马岛的世界村（上岛佐贺浦）、大明浦，守岛日军奋勇抵抗，但因重寡悬殊，全部战死。元军占领对马岛后，不顾忽必烈的指示，大肆杀掠。五月二十六日，东路大军进入隐歧岛。元军占领隐歧岛后，理应按忽必烈在军议会上的指示，在此等待江南军。但是，忻都自恃有上次战争的经验，且兵力多于上次，尤其是出于对于南宋降将蔑视的心态，恐怕江南军抢占首功，因而在没有对日军的防御措施进行侦察的情况下，贸然率军自隐歧岛出发，驶向博多湾。
六月六日，东路军舰队出现在博多湾附近海面。与此同时，忻都还派出一只小型舰队，前往长门海域，以牵制长门的守军，使其不敢救援大宰府。元军进攻长门的消息，震惊了镰仓幕府和京都。民心不稳，舆论惊慌，以致市中无米，民有饥色。谣言一个接着一个地传来：元军占领九州、元军已从东海、北海入侵等等。朝廷的公卿大臣尤为恐慌，在朝议中甚至有人主张迅速将朝廷迁往关东，招募武士浪人守卫京都等。后宇多天皇亲临神宫祈祷七昼夜，龟山上皇在清水神社祈祷，又派人去伊势神宫祝词：愿以身代国难。各王公大臣纷纷向寺、社献币、写经、诵经。
北九州镇西守护所得知元军入侵对马、隐歧后，在镇西奉行少贰藤原经资率领下的守护部队立即进入沿海石坝阵地，严阵以待。总指挥仍为藤原经资，大友赖泰作副手，在他们领导下，有藤原领导的“三前二岛”的御家人武士部队、大友的丰后武士部队、筑后守护北条宗政、肥后守护安达成宗的、以及岛津久经所率领的萨摩、大隅、日向三地的守护武士部队。参加第一线的战斗人员大约有四万余人，连藤原经资的父亲、八十四岁的入道觉惠都积极地参战。此外，四国和中国地方部分御家人和武士，参加了九州的战争，宇都宫贞纲率领约六万中国地方的武士部队，作为增援军在必要时将前往筑前。
元军舰队驶进博多湾才发觉，沿海滩头筑有石坝，登陆战的实施困难很大。忻都派出小股部队，侦察终日，始知志贺岛和能古岛防御薄弱，未筑石坝，遂命令舰队靠近志贺岛下锚。元军第一次侵入博多湾，是以突然袭击而得手的，第二次侵入侦察终曰未能登陆，为日军防御赢得了整整一天时间，已不再是突袭而是强攻了。
六月六日夜幕降临时，熟习近海作战的松浦黨御家人草野次郎经永，率少数部下分乘两小舟偷袭元军，是、纵火焚船，乘元军慌乱之际斩首二十一级。这一果敢行动引诱其他武士效法，偷袭元军彻夜不断。元军为预防偷袭，将大船调于外围，日本船小难以正面冲击。偷袭者至，元军以石、矢投射，日本武士的小船非碎即穿，损失逐渐增加。日军统帅藤原经资下令，若无命令不准进行偷袭。
七日晨，由洪茶丘所率元军登陆占领志贺岛，与元海军形成犄角之势，扩大了占领区。在博多湾的南侧，有一条狭长的半岛，在半岛的西北角，隔着一泓碧水，竦峙着一座小山那便是志贺岛。八日和九日，元日两军的陆战，就集中于这个狭长的岛屿之上。志贺岛在海潮退时，露出海滩直通陆地，元军试图从海滩突破，进攻博多守军后路。因此争夺战相当激烈。此时，高丽军也投入了这场战斗。日军副指挥大友赖泰之子大友贞亲亲率日军突入，击退元军和高丽军，恰遇洪茶丘。幸亏王姓万户长率军抢救，战退日军，洪茶丘方免于难。九日，日军又发起进攻。在这狭长的滩头阵地，元军不能发挥其所长，恰好适应了日本武士一人一骑的战斗方式，因而元军伤亡很大。元军被杀千余人。战斗进行到六月十三日，元军未能前进一步。这时正值六月（公历七月）盛夏，长期船上生活和战斗，蔬菜、饮水供应困难，疫病不断发生，病死者已达三千余人。元军处境不妙，抢占博多湾的计划已难以实现。因此，忻都等决定，于六月十五日率军撤离了志贺岛，驶向壹歧岛，与江南军会师。
五月，征日行省侦知，靠近大宰府的平户岛守军皆调至大宰府，应以该岛作为两路军的会师地点。忽必烈将此情报通知两路军统帅阿刺罕，由他做出决定。阿刺罕作出两路军会师平户岛的决定后，在六月初病死。忽必烈任命阿塔海代替阿刺罕职，由于人事更动，致使范文虎江南军未能按期出发。范文虎于六月初已派出先遣舰队去壹歧与东路军联系，不幸这只舰队误至对马，然后始至壹歧。九州日本守军知道江南军（尚不知是先遣军）至壹歧岛，总指挥藤原经资率一部分军队进攻壹歧。六月二十九日和七月二日，激战二日，日军不敌，退走。
范文虎因先遣舰队已经出发不宜久等，遂在阿塔海未到任的情况下，命江南军于六月十八日分批开航。阿塔海于六月二十六日到庆元，这时江南军已全部离港，所以阿塔海未能参与江南军的指挥工作。此时军中无主，身为江南军指挥的范文虎便借机暗中操纵手下亲信，使他们推举他为两军主帅。
范文虎其人，是个志大才疏的庸碌之辈。他原为南宋将领，是当时南宋权臣贾似道的女婿，当蒙宋襄阳攻坚战打的最激烈的时候，曾先后两次率领南宋军援襄，但均遭惨败；咸淳八年（1272）春，范文虎为保存实力，坐视南宋京湖制置大使李庭芝部下总管张顺、路分钤辖张贵陷入苦战而不救，致使“二张”所部全军覆灭。范文虎投降蒙古后，对自己原来的同胞又变得异常凶残，在元将伯颜攻占南宋国都临安（今浙江杭州）之战时，担任东路水军先锋，率先攻占盐官县（今浙江海宁市），切断临安宋军的逃跑之路，为元朝立下大功。
江南军在七月底全军进入指定阵地，范文虎与东路军会师之前，所属各部尚未与日本作战。会师后，除部分军队驻守平户岛外，其余全部元军于七月二十七日开往屯鹰岛。元军先头部队遭到日军舰队的截击，战斗进行了一天一夜，直到天明，日军才撤退。范文虎与忻都等相议，“欲先攻大宰府，迟疑不发”。两路大军会师后，军势大振，本应立即进攻大宰府，之所以迟疑不决，其一是因为各路指挥官内部矛盾重重，洪茶丘与高丽军统帅金方庆仇怨甚深，范文虎又被诸将所轻视，结果意见分歧，指挥难以协调；其二大概是看到了台风到来的前兆。但元军两路统帅均无航海常识，见台风前兆不知躲避，如果当时退到平户、壹歧、对马或高丽，尚可保全。由于在海上迟疑了一天，八月一日，台风袭来，元军船毁人溺，师丧大半。江南军张僖所部和也速都儿所部，因见天气恶劣，夜里停泊时，命将战舰各去五十步下锚，因而避免了台风袭击时各舰船互相碰撞，所以损失极小。台风过后，张僖和也速都儿即乘船各处搭救元军将士。江南军总指挥范文虎旗舰破碎沉没，抱船板漂流海上，被张僖所救。张僖立即向范文虎建议，江南士卒未溺死者尚有半数，且皆为青壮战士，可以重整旗鼓进行战斗，利用船坏后将士没有退路义无反顾的心理，强行登陆，因粮于敌，扩大战果。从当时形势来看，这个建议是可行的，但是，刚刚脱险的范文虎已经被台风夺去了斗志，坚持要立刻回师。他对张僖说：“还师之罪，我辈当之，公不与也。”（张僖只得分船于范文虎，收集残卒共同班师。这时平户岛尚有被救起的四千军卒无船可乘，范文虎竟然命令弃之不顾。张僖不忍，将船上战马弃于岛上，载四千军卒回国。
范文虎回国后，被遗留在日本海岛上的元军士卒，大部分被日军杀害。据至元十九年（1282），从日本逃回的士卒反映，被遗留在各岛的元军士卒约3万人。因将领皆走，众人推举张姓百户长为帅，组织伐木为舟，伺机回国。八月七日，日军乘船逐岛搜捕，约3万元军除一部分被俘外，其余战死。九日，日军将被俘元军带至八角岛，从中选出新归附的南宋人和工匠、农民留作奴隶，其余尽杀之。被幕府留做奴隶的人中，有部分人如莫青、吴万五以及江南把总沈聪等得以逃回。
第二次东征日本的战争和第一次一样，最终也因遭遇台风而失败。据现有史料可知，元军两路大军的损失轻重不一。东路大军中高丽士卒和水手共27000余人，台风后归国者约19000余人，损失约7000余人，不到总数的三分之一。如果减去战死和死于疫病者，则溺于台风的人数还要减少。由高丽水手驾船的蒙、汉军队的损失亦可按此类推。所以，年过五十六岁的百户长张成，能够在元日战争中得以生还，并留下一块记述元日战争的墓碑铭，就不足为奇了。相反，江南军的损失比较惨重，只有张僖和也速都儿部得以全军返还，其余各部均损失惨重。据张僖的估计，台风过后尚有半数军兵尚在，即5万人左右，回师时范文虎抛弃了一些，因而“士卒十丧六、七”的估计是可信的。元世祖忽必烈准备数年的侵日战争，使江南大军10万之众，3500艘战舰，不见一阵，丧师而还。
后来忽必烈还决心再度东征日本，开始建造大船、训练海军和培训水手。从至元二十年（1283年）、二十三年、二十五年、二十六年、二十七年，忽必烈曾一再下令征日，但都因大臣劝阻或百姓起义，使征日之举未再实现。至元三十一年（1294）正月，元世祖忽必烈死去，元朝的再次征日计划就此束之高阁。