「ヒモ」という俗称の起源には諸説存在しますが、民俗学および語源研究において最も有力とされているのが、三重県の鳥羽・志摩地域などに伝わる伝統的な「海女(あま)漁」の命綱に由来する説です。
海女漁では、海中深くに潜ってアワビやサザエを採る女性(海女)の腰に命綱である一本のロープを結び、船の上にいる夫(または男性の同伴者)がその端を握って待機します。海女が息の限界に達してヒモを引く合図を送ると、船上の男性が力任せに引き上げて命を守るという仕組みです。この構造において、実際に潜って命がけで獲物を獲り家計を支えるのは女性であり、船上の男性はヒモを握っているだけで暮らしているように見えたことから、女性に養われている男性を比喩的に「ヒモ」と呼ぶようになったと伝えられています。
一方で、昭和初期の警察資料や裏社会の隠語辞典によると、売春を行う女性の背後にいて収益を吸い上げる情夫(ポン引き・売笑仲介者)を指す隠語として使われていた記録も残っています。「女性を操り人形のように糸(ヒモ)で手繰り寄せて使役する」というニュアンスや、博徒の間で使われた「細い縁でつながり続ける関係」を表す符牒が結びつき、現在の意味合いへと変遷していきました。
なお、食肉業界で牛や豚の小腸を「ヒモ(もつ)」と呼んだり、寿司屋で赤貝やホタテの外套膜を「ヒモ」と呼んだりする食文化の用法とは、形状が細長いという点以外に言語的な直接の関連性はありません。