夏商时期台湾属于九州中的扬州。
台湾自古以来就是中国的领土，西汉时属会稽部，称夷洲。230年（黄龙二年），三国时期，吴王孙权派遣将军卫温、诸葛直率领一万士兵，、三十多艘船组成的船队前往夷洲。据考证，这支船队从章安（今浙江临海东南）启程，经台州湾出海，沿海岸航行到福州、泉州，然后横渡台湾海峡，在今台南市和嘉义一带登陆。登陆后，卫温、诸葛直将台湾土著居民数千人迁往大陆。台湾和大陆的联系日益密切。三国东吴丹阳太守沈莹的《临海水土志》详细记载了当时台湾的生产和生活形态，是世界上对台湾最早的记述。
隋代大陆和台湾的接触增多。隋炀帝曾3次派朱宽、陈棱等人前往流求（今台湾）。9至10世纪的唐末宋初开始有汉族人定居澎湖。
宋元时期汉族人民在澎湖已有相当数量。汉人开拓澎湖后开始向台湾发展，带去先进的生产技术。12世纪中叶南宋将澎湖划归福建路晋江县（今福建晋江）管辖，并派兵戌守。大陆和台湾的联系日渐频繁。
元朝进一步加强对台湾的管理。元世祖曾派员到台湾宣抚，并在澎湖设澎湖巡检司，隶属福建泉州路同安县（今福建厦门），这是中国中央政府对台湾地区的首次官署设置。
明朝初期仍设澎湖巡检司，明朝以后大陆与台湾的人民往来不绝。永乐年间郑和率船队曾在台湾停留。17世纪20年代的明朝末叶大陆居民开始大规模移居台湾，给台湾社会经济和文化的发展以极大推动。其时，嘉靖皇帝组织周鲁楚秦襄王五个明朝宗室率河南、山东、湖广、闽粤居民迁居台湾，一面从事农耕、贸易，一面组织武装力量抗御西班牙和荷兰人。以后，但凡有水旱大灾，百姓无以为生，嘉靖就组织灾民到台湾垦荒定居，各地逐渐形成许多村落。台湾自此进入大规模开发时期。这段时间，进入台湾的宗室子弟和平民移民有三十万之多。
随着15、16世纪的地理大发现，世界进入海权时代，欧洲新兴的海权国家纷纷往亚洲拓展势力。荷兰东印度公司的荷兰殖民者为建立与中国、日本贸易的据点侵入南台湾。 1522年，西班牙殖民者也曾侵占北台湾，后被明朝大军驱逐。
荷兰殖民者在台南市修筑热兰遮城（今安平古堡）和普罗民遮城（今赤嵌楼）作为殖民统治的中心，为增加米、糖等农作物产量招募福建沿海和澎湖居民迁往台湾开垦。荷兰殖民者实行强制统治，把土地据为已有，强迫人民缴纳各种租税，掠夺台湾的米、糖，将其收购的中国生丝、糖和瓷器经台湾转口运往各国，牟取高额利润。
荷兰殖民者的统治激起了台湾人民的反抗。1522年，大陆移民领导了最大规模的一次武装起义，虽最终被镇压，但表明荷兰殖民统治已出现危机。当年底他们配合明朝军队驱逐荷兰人，收复了台湾。