高登齐奥·法拉利 的 "圣母与橘子树", 绘画于1529-30年间。画的底部偏左位置, 有一个小天使在演奏一把三弦小提琴。意大利萨龙诺的一幅画中 ,绘有天使在演奏小提琴。

第一个清楚地记录小提琴的存在是1530年高登齐奥·法拉利的画 - 圣母与橘子树中，一个小天使在演奏一把弓弦乐器 - 小提琴。几年后，在意大利萨龙诺，Madonna dei Miracoli教堂的天顶壁画上， 也绘有天使在演奏三样乐器 - 小提

壁画上的这些乐器与现代小提琴不同的是法拉利描绘的只有三根弦和弧度夸张的琴身。 究竟是谁率先制造出了小提琴并不清楚，但有资料佐证，小提琴来源于意大利北方，米兰附近。不只是在法拉利的画中，同一时期诸如在布雷西亚和克雷莫纳都有名气很大的弦乐制工艺出现。

现存最古老的小提琴，是1564年安德雷亚·阿马蒂在克雷莫纳制作的，琴身内刻有“查理九世”印记，只是标记已经变得非常模糊。 大都会博物馆有一把阿马蒂制作的或许更老的小提琴，推断在1558年，即查理九世，但时间无法准确断定。 [2] 最著名也是最无损的一把小提琴是弥撒·斯特拉迪瓦里琴（Messiah Stradivarius）,也叫做Salabue，1716年由著名制琴师安东尼奥·斯特拉迪瓦里制作，极少或许从未被使用过。现存于英国牛津阿什莫林博物馆内。

最早出现的弓弦乐器可能出自中亚，并逐渐传播到中国、印度和中东。

现代意义上的小提琴最早出现于16世纪早期的意大利北部威尼斯、热那亚等港口。它在意大利文中称为“violino”，意为“小的中提琴”。最早期的小提琴，除了一些文艺作品中有所反映之外，没有保存至今的实物。早期很多小提琴只有三条弦，由此推断，小提琴最初的制作者可能借鉴了其它早于小提琴的乐器，比如中世纪三弦琴，这种琴自10世纪开始出现并被使用，它自身源于阿拉伯的雷贝琴（英语：Rebab）。

目前对小提琴最早的明确记载是Jambe de Fer于1556年出版于里昂的《音乐摘要》（Epitome musical）。此时小提琴已经传遍欧洲。

最古老的4弦小提琴是由著名的安德雷亚•阿马蒂应梅第奇家族之请制作于1555年。阿玛蒂是当时著名的拨弦乐器制作师，他有一套严格的制作流程来保证他作品的精致优雅。不仅如此，他还率先将拱形结构引入拨弦乐器的制作中，据他所知，拱形结构能明显提升拨弦乐器的音色与听感。

当时鲁特琴在贵族中很流行。而梅第奇家族需要一种与鲁特琴类似，但能用于街头演奏的乐器，故尔向安德雷亚•阿玛蒂定做了小提琴。