谢惠连是谢安幼弟谢铁之曾孙，谢灵运之族弟，父谢方明历任竟陵太守、丹阳尹、会稽太守等职。惠连“幼而聪敏，年十岁即能属文”，“轻薄不为父方明所知”，深得谢灵运的赏识，谢灵运“见其新文，每曰：‘张华重生，不能易也’”。
“本州辟主簿，不就。”元嘉七年(430年)，方为司徒彭城王刘义康幕下的法曹参军。
元嘉十年（433年）卒，年仅二十七。
《诗品》引《谢氏家录》云：“康乐每对惠连辄得佳语。尝在永嘉西堂，思诗竟日不就，寤寐间忽见惠连，即成‘池塘生春草’。故常云：‘此语有神助，非我语也。’”
李白云：“群季俊秀，皆为惠连。吾人咏歌，独惭康乐。”
