春秋时代，人们已经能够将硬度5度至7度的软玉和硬玉琢磨成各种形状的器具，因此也能将硬度只有5.5度至6.5度的天然磁石制成司南。据载墨子是很有成就的科学家,在力学、声学、光学、磁学等方面都很有研究，制作发明的有听瓮、中燧、司南，还有汲水器、投石器、望远器、集箭器等，其中的司南应该属于我国或者世界最早的指南针。

东汉时的王充在他的著作《论衡》中对司南的形状和用法做了明确的记录。司南是用整块天然磁石经过琢磨制成勺型，勺柄指南极，并使整个勺的重心恰好落到勺底的正中，勺置于光滑的地盘之中，地盘外方内圆，四周刻有干支四维，合成二十四向。这样的设计是古人认真观察了许多自然界有关磁的现象，积累了大量的知识和经验，经过长期的研究才完成的。司南的出现是人们对磁体指极性认识的实际应用。但司南也有许多缺陷，天然磁体不易找到，在加工时容易因打击、受热而失磁。所以司南的磁性比较弱，而且它与地盘接触处要非常光滑，否则会因转动摩擦阻力过大，而难于旋转，无法达到预期的指南效果。而且司南有一定的体积和重量，携带很不方便，这可能是司南长期未得到广泛应用的主要原因。

目前的司南模型是由我国著名科技史学家王振铎根据根据《论衡》中的记载，考证并复原的。司南由青铜盘和天然磁体制成的磁勺组成，青铜盘上刻有二十四向，置磁勺于盘中心圆面上，静止时，勺尾指向为南。

但司南是磁性指南工具的一观点一直受到学术界的质疑。首先，在《论衡》中，并未指出司南是磁勺子，而且，在刚认识到磁石吸铁的同时就发现其指极性不符合认识的规律，另外要把磁石加工成能指南的磁勺，要有意识地‘顺其南北极向’磨镂。在十一世纪指南针发明以前，古文献中从未有过磁石两极以及它的指极性的记述。50年代钱临照院士曾受郭沫若之托试图以天然磁石制做勺形司南，但因天然磁石磁距小、底部摩擦大而未成功。而王振铎先生的复原物为钨钢在人工电磁场中磁化，这在两千多年前是无法办到的。现在北京的中国历史博物馆已不再展出司南的模型。东北师大教授刘秉正于1956年就对司南的磁勺说提出质疑，80年代后又通过用天然磁石指极性实验以及考据指出《论衡》以及《瓢赋》中的司南是天上的北斗， 而其它的文献中的司南或是指南车如《鬼谷子》，可能是行事的准则，也有可能指官职如《韩非子》。其他也有一些学者如中国科技大学教授李志超认为司南是磁石放在瓢中，杭州大学教授王锦光提出司南是磁勺子放到水银池中(《论衡》中的地为“池”)。2005年中国国家博物馆研究员孙机根据前北平历史博物馆旧藏残宋本《论衡》认定“司南之杓”杓字实为酌，那么看来“其柢指南”之柢也非指勺柄，司南是机械齿轮装置的指南车。但这些质疑还没有被科技史学界所普遍接受。根据最新的文献考证表明，司南是北斗的别称，同时司南的其他用法也都与北斗有关。