耶律乙辛的母亲刚刚怀孕时,夜中梦见手提黑色公羊,拔掉它的犄角和尾巴。醒后占卜,道术之士称:“此乃吉兆,羊去犄角、尾巴为王字,你以后有儿子会当上王。”耶律乙辛降生时,正赶上迭刺一家奔走在路上,没有水加以洗浴,在掉转车头、碾破辙迹,忽然看见上涌的泉水。迭刺原为得了儿子,正想饮酒而庆贺。闻到酒香,在草丛荆棘中得到两壶酒,于是以酒祭祀东方。
乙辛幼年聪慧机敏。曾经牧羊至太阳偏西,迭刺巡视,看到乙辛正在熟睡。迭刺把他碰醒,乙辛怒道:“为什么这样快就惊动我?方才梦见有人手持日月而让我进食,我已经吃掉月亮,吞吃太阳刚到一半就醒了,可惜不能全部吃掉它。”迭刺从此以后不再让乙辛牧羊。 乙辛长大以后,风度翩翩,仪表堂堂,外貌谦和,内心狡黠。 重熙年间,任文班吏,掌太保印,陪从在宫中。皇后见乙辛安详文雅如古代大臣,委任他为笔砚吏;辽兴宗也喜欢他,屡次升迁到护卫太保。道宗即位,由于乙辛为先朝任使,赐给汉人户四十,同知点检司事,常常召他参与解决难于议决的问题,升北院同知,枢密副使。清宁五年,为南院枢密使,改官主持北院,封为赵王。
1059年(清宁九年),耶律仁先任为南院枢密使,当时附马都尉萧胡睛和重元结成同伙,讨厌耶律仁先在朝内,启奏说:“仁先可任西北路招付使。”道宗准备依从他。乙辛奏说:“我刚参朝政,不熟悉治国的大体。仁先乃是先帝的旧臣,不可突然离开朝廷。”道宗表示赞同。重元之乱平定以后,授乙辛北院枢密使,进号为魏王,赐号“匡时诩圣竭忠平乱功臣”。
1069年(道宗咸雍五年),署理太师,诏令四方如有军事行动,允许乙辛斟酌事势自行处理。一时权势倾动朝野,门下贿赠络绎不绝,凡曲从迎合的就受到荐举提升,凡忠信耿直的则被废弃贬逐。
1075年(道宗大康元年),皇太子开始参预朝政,法令制度整饬清明,乙辛不能再随意得逞,就谋划诬陷皇后。皇后死了以后,乙辛不能自安,又想加害太子。便趁机入奏说:“皇帝和皇后如同天地一样并列的位置,中宫岂可空缺?”于是竭力称赞他的同伙驸马都尉萧霞抹的妹妹美丽贤良。道宗听信了他,将萧抹霞的妹妹接纳入宫,不久册封为皇后。当时护卫萧忽古了解乙辛邪恶不正的详情,埋伏在桥下,想要杀他。不久暴雨冲坏桥梁,计划没有成功。林牙官萧岩寿向道宗密奏。道宗将耶律乙辛外放为中京留守。乙辛哭泣着对人说:“乙辛并没有过错,只因为受到谗言而被外放。”他的同伙萧霞抹之流把他的话禀告道宗,道宗后悔。不久,外放萧岩寿为顺义军节度使,令近臣商议召回乙辛的事情。朝中大臣没有人敢于说话,耶律撒刺屡次劝谏道宗都不听从。于是再次征召乙辛为北院枢密使。
当时皇太子以母后被害死,忧愁表现在脸上。乙辛一伙欢欣跳跃互相庆贺,谗言诗语沸沸扬扬,忠良之士几乎统统被贬斥。乙辛根据萧十三的话,连夜召萧得里特谋划构陷太子,命令护卫太保耶律查刺诬告耶律撒刺等同谋立皇后太子。诏令审查,找不到证据,只好罢手。又让牌印郎君萧讹都斡晋见道宗;诬陷说:“耶律查刺以前告发耶撒刺等事都确实无误,臣也参与了谋划,本来要杀乙辛等。而立太子。臣等如不坦白承认,恐怕真相大白以后牵连获罪。”诏令问罪审讯,乙辛迫使他们全部承认。道宗震怒,命令诛杀撒刺及速撒等。 乙辛恐怕道宗日后生疑,拉众人当堂审问,证人戴着重枷,绳索捆着他们的脖颈,以致不能出气,人人难以忍受其残暴,惟求赶快一死。乙辛回去向道宗启奏说:“没有不同的说法。”当时正值暑天,尸体不得埋葬,以至于连地上都发臭。于是在上京囚禁皇太子,监护守卫者都是乙辛的同党。不久派萧达鲁古、撒把害死太子,乙辛一伙大为高兴,相聚饮宴数日。 上京留守萧挞得把太子的死讯禀告道宗。道宗哀悼,想召回太子的妻子,乙辛暗中派人杀掉了她灭口。
1079年(太康五年)正月,道宗将要出猎,乙辛上奏将皇孙留在京城,道宗想听从他。同知点检萧兀纳谏说:“陛下如果听从乙辛的意见留下皇孙,皇孙尚且幼小,左右无人照顾,愿留臣加以保护,以防意外事件。”于是与皇孙一起上路。从此道宗开始怀疑乙辛,颇为知晓他的一些奸邪之事。适逢皇帝起驾临幸北方,将到达黑山的平淀,恰好看见邑从官员多随乙辛身后,于是讨厌他,外派乙辛知南院大王事。按照规定削掉一字王爵,改混同郡王,自己稍稍感到安心。等到入宫谢恩,皇上当日遣还,改派主持兴中府事。 1081年(七年)冬,乙辛以法令禁止的物品卖给外国而获罪,被发交有关部门议罪,按法律应处死刑。乙辛同伙耶律燕哥独奏当以八议之例减刑,得免死罪,以铁骨朵棍棒相击,拘禁在来州。1083年以勒颈绝气的刑法被杀掉了。1102年(乾统二年),掘开坟墓,陈其尸骨示众。