尹思贞，京兆长安人。二十岁应试中举，任隆州参军。当时晋安县有土豪蒲氏，横行霸道，无法无天，前后官吏，谁也奈何不得他。州官令尹思贞处理。他查出了蒲氏奸赃数以万计，依法将他斩首。远近的人无不拍手称快，并刻石来记下这件事，由此尹思贞知名。后调任明堂县，以善政闻名。后升任殿中少监、检校氵名州刺史。正当契丹孙万荣叛乱，河朔一带极不安宁，尹思贞善于绥抚，只有他的治地没有被惊扰，武则天特别下玺书褒扬赞美他。
长安年中(703)，七次迁任秋官侍郎，因不听从奸臣张昌宗而被诬构罪名，降职到定州任刺史，又调任晋州刺史。不久，又调入朝廷任司府少卿。当时司府少卿中有侯如一，处事也极严厉，吏人曾传这样一句话：“不怕侯卿杖，只怕尹卿笔。”他为众人所敬服达到如此地步。不久，加银青光禄大夫，在住宅中挖出古戟十二，接着门前有了有衣之戟，时人很是惊异。
神龙初年(705)，尹思贞任大理卿。当时武三思专权，御史大夫李承嘉随声附合，雍州人韦月将告武三思谋反，唐中宗大怒，下命将韦月将处死。尹思贞以春季是万物得生的月份，坚持奏请不可行刑，便改为杖刑流配岭南。武三思令有司非法加害，尹思贞又坚持抵制。李承嘉领会武三思的旨意，托以另外的事，不许尹思贞入朝廷。尹思贞对李承嘉说“：你擅作威福，不顾国法，附和奸臣，谋图不轨，是要除掉忠良来为所欲为吗？”李承嘉大怒，便劾奏尹思贞，尹思贞被贬为青州刺史。青州境内有蚕一年四熟。黜陟使、卫州司马路敬潜八月到青州，见蚕茧叹道：“不是善政所致，谁又能出现这种盛况呢！”特意上表荐举尹思贞。尹思贞前后任十三州刺史，皆是清廉治政。
睿宗即位，征用为将作大匠，封为天水郡公。当时左仆射窦怀贞兴土木建金仙、玉真两座道观，调动工匠，尹思贞常节减人员财物。窦怀贞怒，频频指责尹思贞。尹思贞道：“阁下身为宰相，任重在辅弼谐和，然不能赞助圣明，却大兴土木，害及百姓，难道不感到惭愧吗？又受小人的谮言，轻视侮辱朝臣，今日之事，不能随便了事。”说罢拂衣而去，闭门数天，皇上听说就特令他不要放弃职守。那一年窦怀贞伏法处死，皇帝下诏表彰他贤良方正，能“折佞臣之枯权，拂衣而谢”。不久尹思贞兼任申王府长史，又迁任户部尚书，因年老多病多次上表请求告老还乡，后得准允。开元四年(716)去世，享年七十七岁，赠黄门监，谥号为简。