境内にある影向石は祭神が降臨した際に依り代になったと云われ、古くから天忍石や姿が子牛に似ている事から牛石とも云われています。
当初は劔宮、又は劔神社と号し、地名の「鶴来」は社号の「劔」が由来になったとも云われる事から、当地の産土神だった事が窺えます。
養老元年（７１７）に泰澄大師が白山を開山すると、強い影響を受けたと思われ、神亀（７２７）に泰澄が当社を再興したと伝えられています。
境内にある「天の真名井」は天平年間（７２９〜７４９年）に湧き出しと伝わる霊泉で、大旱魃や大雨でも水量が変わらないとの伝承が残されています。
承和年間（８３４〜８４８年）頃には神官が離散し荒廃していましたが、その後、再興されています。
格式が高く、「神階記」によると朱雀天皇の御代、承平３年（９３３）には正三位に列格し、円融天皇の御代、永観元年（９８３）には従二位に昇格、一条天皇の御代、寛弘４年（１００７）には正一位に進んでいます。
寿永２年（１１８３）に源義仲が倶利伽羅峠に布陣する平家の大軍と対峙した際、当社の神宝が出現し勝利に導きました。
その後も義仲は平家軍を掃討し、当地まで進軍すると、当社に勝利の報告と感謝を伝える為に参拝に訪れ鞍付きの馬２０頭と神領として横江庄を寄進しています。
文治２年（１１８６）に源義経は兄で初代将軍源頼朝に対し謀反を起こした為、幕府方の追討を受け、奥州藤原氏を頼り平泉に下向した際、当社を訪れたとされます。
軍記物とされる「義経記」には「明ければ白山に参り、女体后の宮を拝んで、その日は剣権現の御前に参り、通夜をして、夜通し御神楽を行い、明ければ林六郎光明が瀬戸を通ったという、加賀の国富樫という所も近くなりました。」と記されており、この「剣権現」が金劔宮の事とされます。
当社には、義経が境内の石に腰掛け、眼下に広がる平野や手取川を眺め、太刀一口を奉納したと伝えられ、義経笈掛の松は朽ちたものの、義経腰掛石が残されています。
早くから神仏習合し、「白山之記」によると、宝殿・拝殿・講堂・宝蔵・三重塔・鐘楼・荒御前社・糺宮・大行事・乙剣社など、仏教色の強い施設を含め、七堂伽藍を構成し、応永１８年（１４１１）には大般若経六百巻を出版して神前に奉納しています。
本地仏として倶利伽羅明王を奉斎する一方で、白山信仰と一体化した事で、白山神社の祭神とされる白山妙理権現の第一王子を祭っていました。
その為､白山信仰の中でも重きを成し、白山本宮・三宮・岩本宮と共に本宮四社を構成し、中宮三社である中宮・佐羅宮・別宮と合わせて白山七社に数えられています。
白山修験は、「白山衆徒三千を数う」や「馬の鼻も向かぬ白山権現」と詠われる程、隆盛し、強大な軍事力を有する教団勢力として当社もその一翼を担いました。
南北朝時代には南朝方に与し、延元元年（１３３６）に新田義顕が恒良親王、尊良親王を奉じて越前国金ヶ崎城に入ると、それを支援した氣比神宮に呼応し、戦勝祈願が行われています。
寛正６年（１４６５）には当社の社僧で学僧・歌人、「藤の坊法印」とも呼ばれた尭恵が北陸を経由して、善光寺に参拝「瑠璃檀めぐり」を行い、宿坊から戸隠山の岩屋に祭る「多力雄」の神を遥拝し、その時の様子が「善光寺紀行」、「北国紀行」で記されています。
加賀一向一揆が台頭すると、白山衆徒と激しく対立した為、同じく一揆衆と対立してた加賀国守護職富樫氏から崇敬されています。
明治時代初頭に発令された神仏分離令により仏教との分離が図られ、明治５年（１８７２）に社号を「金劔神社」に改めると共に郷社に列し、明治２８年（１８９５）に県社に昇格しています。
明治３９年（１９２４）に境外末社の大國社・恵比須社・日吉社・大鳥社の４社を合併し、明治４１年（１９０８）には境内末社の菅原社を、大正３年（１９１４）に村社の日吉神社を合祀しています。
境内は神域だった事から、多種多様の古木大木が多く、中でも自生する「ウラジロガシ林」は石川県唯一のもので、貴重な事から名称「金剱宮社叢ウラジロガシ林」として石川県指定天然記念物に指定されています。
毎年１０月初旬に開催される金劔宮の秋季例大祭である「ほうらい祭り」は、安元年間（１１７５〜１１７７年）に白山衆徒が加賀国司の横暴を神輿を担いで都に入り提訴した事件が発端とも云われ、貴重な事から白山市指定無形民俗文化財に指定されています。
又、近年、船井総研の船井幸雄氏が当社の事を金運アップの「イヤシロチ」として推薦し、県内外の多数の実業家が御利益を求めて参拝するようになった事から、日本三大金運神社に数えられています。