RT @LiamFedus: Pleased to share new work! We design a sparse language model that scales beyond a trillion parameters. These versions are significantly more sample efficient and obtain up to 4-7x speed-ups over popular models like T5-Base, T5-Large, T5-XXL. Preprint: arxiv.org/abs/2101.03961 pic.twitter.com/jO7YYCwg6U
posted at 14:33:46
RT @slankdev: 「オレオレNAT基盤 at LINE's cloud」について記事にしていただきました! twitter.com/LINE_DEV/statu…
posted at 14:22:14
RT @takumi_itabashi: 若干誤解されているようだけど、ここでメルケルが言っているのは、言論の自由はあくまで法律によって制限されるべきだということ。きわめてドイツ的な（あるいは大陸欧州的な）批判。 メルケル独首相、ツイッターを批判 意見表明の自由重要: 日本経済新聞 www.nikkei.com/article/DGXZQO…
posted at 14:16:10
RT @rokuzouhonda: 稚拙な素人手口に呆れるけど、そんな素人臭い手法で機密を持ち出されてしまうSBMの情報システムに驚愕した。報道の通りならちょっと恥ずかしい＜SBMの情シス「５Ｇの営業秘密持ち出し転職、ソフトバンク元社員を逮捕」 www.sankei.com/affairs/news/2…
posted at 14:15:48
RT @doku_f: これは訳さねばならない。「1907年1月12日偉大なソビエトのエンジニア、宇宙工学の父セルゲイ・コロレフが生まれました。 彼のリーダーシップの下で、最初の人工衛星の打ち上げと最初の宇宙飛行士であるユーリガガーリンによる宇宙飛行が行われました。」 twitter.com/rusembassyj/st…
posted at 14:15:33
RT @yonemaya1: 維新の会の見解、読みました。 酷いですね。「学校図書館の司書は、児童・生徒が求める書物を即座に取り出してくれますが、図書館は研究機関ではなく、その必要性はありません」て……。レファレンスというものの重要性を知らないのか。 井上真琴『図書館に訊け』を百万回読めと言いたくなります。 twitter.com/cafecriollo/st… pic.twitter.com/2robj2aZvK
posted at 14:12:51
RT @AllisTheWill: 尖るってこういうことよな pic.twitter.com/TM9CEEWNAv
posted at 14:09:43
RT @arxivml: "Learning to Ignore: Fair and Task Independent Representations", Linda Helen Boedi, Dr． Helmut Grabner arxiv.org/abs/2101.04047
posted at 13:48:43
RT @conta_: 研究調査報告資料の一部を公開しました！ ニューラルネットワークをリバースエンジニアリングし知見を得ることで、新しい研究分野を切り開きましょう（意訳）、という記事の解説です。 www.slideshare.net/takanoriogata1…
posted at 13:47:11
RT @kyuukanba: 本日発売の別冊少年チャンピオンにAIの遺電子 Blue Age 第7話「パノプティコン」が掲載されてます！ 今回のエピソードは担当さんお気に入りらしいです。是非読んでみてください！ www.akitashoten.co.jp/b-champion/202… pic.twitter.com/aDVcTq6Kiy
posted at 13:46:55
RT @ShinpeiKato: OSの仕事の1つは資源管理です。資源管理には大別して時間管理と空間管理があり、その大部分がScheduling問題とAllocation問題に帰着します。これらは最適手法と発見的手法のどちらかで解決できますが、いずれも整数問題や確率問題、微積分問題が基礎になっているので数学は大事ということです。
posted at 13:46:15
RT @stateofai_ja: Interspeech 2020 のチュートリアル「音声言語処理と言語学習」、言語学習におけるスピーキングの自動採点やフィードバック技術が総観できてとても良い。www.interspeech2020.org/Program/Techni… pic.twitter.com/nQLaKixHTp
posted at 13:18:02
RT @nal_ew: SSRやってみたら意外とあっさり実装できたけど、サクナでは採用はしないということになったので供養。 ・透明度が上がるが、アート感が飛ぶ ・どこまで浸かってるとかが分かりにくくなる 調整していけば解決はできるだろうけど発売後にやることでもなかろう。という結論 pic.twitter.com/DzgZcVWlKZ
posted at 13:16:03
RT @mhagiwara: Very nice tutorial on "Spoken Language Processing for Language Learning and Assessment" at Interspeech 2020 www.interspeech2020.org/Program/Techni… pic.twitter.com/MRGKn43GNn
posted at 13:15:39
RT @ak92501: Towards Real-World Blind Face Restoration with Generative Facial Prior pdf: arxiv.org/pdf/2101.04061… abs: arxiv.org/abs/2101.04061 pic.twitter.com/3UcFelhoQb
posted at 13:15:36
RT @stanfordnlp: We’re very excited to kick off our 2021 Stanford NLP Seminar series with Ian Tenney (@iftenney) of Google Research presenting on “BERTology and Beyond”! Thursday 10am PT. Open to the public non-Stanford people register at nlp.stanford.edu/seminar pic.twitter.com/Mo06w6G3GR
posted at 13:03:48
RT @_anohito: 若者に文脈を語るための能力を育成する必要がある．twitterや2ch的な考え方だけが一般的になってはいけない．大きな文脈の中での詳細設計をやる力をつけなければならない．
posted at 12:57:15
RT @dhtanaka: 脳波で⁉︎マジか。/ 共同発表：「聞こえた音、思い出した音」を脳波から音で再現する技術を開発～脳内の音声処理機構の理解に向けて～ www.jst.go.jp/pr/announce/20… #JSTプレスリリース #戦略的創造研究推進事業 #さきがけ
posted at 12:57:04
RT @sammy_suyama: 「機械学習はデータが集まれば集まるほど性能が上がる」と言っておきながら、「運用していくうちに当初より予測能力は下がっていきます」ってめちゃめちゃ矛盾してますよね。 これが起こるのは継続的なデータ取得＆学習のエコシステムが設計されていないからです。はじめから負け試合が確定している。
posted at 12:54:01
RT @arxiv_cscl: Trankit: A Light-Weight Transformer-based Toolkit for Multilingual Natural Language Processing arxiv.org/abs/2101.03289
posted at 12:53:52
RT @drinami: ふと思ったけど、トータルで80歳程度というのは変わらないのだけど、人工冬眠を繰り返して間欠的に蘇生できるとするなら、何年程度に延ばすこと(PWMで言うならどの程度のパルス幅と周期)を希望する人が多くなるのだろうか? > RT
posted at 12:29:05
RT @upura0: Facebookの研究者が、ボードゲームの「花火」を解くAIを開発。SoTAでAAAI 2020に採択されている。ソースコードもGitHubで公開済。 The Facebook Neural Network that Mastered One of the Toughest AI Benchmarks by @jrdothoughts link.medium.com/RscrIjjqYcb
posted at 12:28:49
RT @noborutakachi: 今日は改めて俺が依存症者になった所以を確認。俺は完璧主義で恥をかくのが嫌で失敗を恐れていたため経験値が少なくなった。しかも数少ない経験も改善点を指摘されるともうやらない！と白黒思考。ますます新しいことに踏み出すハードルが高くなり、世界が小さくなっていった。まさに悪循環！今や笑える
posted at 12:05:43
RT @kyoun: 2/17に開催される日本ロボット学会のセミナー「視覚と言葉を通じたロボットとの共同作業を目指して」にて「自然言語処理とビジョン＆ランゲージへの派生」について講演します．どうぞ宜しくお願い致します！ twitter.com/losnuevetoros/…
posted at 12:04:58
RT @ak92501: Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity pdf: arxiv.org/pdf/2101.03961… abs: arxiv.org/abs/2101.03961 github: github.com/tensorflow/mes… pic.twitter.com/iDPDXj4bRR
posted at 12:02:53
RT @Focus_Sash: 不老不死とは言わんから200年くらい生きられるようにしてくれ、そのころには500年くらい生きられるようになってるだろ
posted at 11:18:44
RT @masanork: これは攻殻機動隊のバトーっぽいVR HMDだな / “パナソニック有機EL VRグラスが5.2Kに進化。Technicsスピーカー内蔵 - AV Watch” htn.to/4o91uLELD6
posted at 11:18:36
RT @kobekoho: おはようございます🌨 神戸でも、みぞれが降っています。路面凍結などにご注意ください。 先日の雪の中の #タンタン さん。寒いのは得意なので、雪の中でもモグモグしてます。 #王子動物園 pic.twitter.com/XtMbvOuMgK
posted at 11:05:21
RT @rkmt: JSTさきがけ「人とインタラクションの未来」成果報告会 zoom webinar 明日1/13(水) 9:30からです！ www.jst.go.jp/kisoken/presto… pic.twitter.com/oW5uEIgCS9
posted at 11:03:01
RT @preferred_jp: 【ブログ】Kaggleで開催された自動運転関連のコンペLyft Motion Prediction for Autonomous VehiclesにPFNのメンバー4人がチームで参加し4位に入賞しました。コンペの概要やソリューションについて解説します。tech.preferred.jp/ja/blog/kaggle…
posted at 11:02:46
RT @TANK2ROW: アマプラで観た某戦争映画。2019年製作だと監督とか演出家とかはもうロッドアンテナという存在を知らない世代なのかもしれないな。とにかくBC-611は3.5～6.0MHz帯の短波無線機だ。キャップを外して中にあるロッドアンテナを伸ばせ。そうしないと電源そのものが入らないぞ。 pic.twitter.com/FMC3GehZmF
posted at 10:42:38
RT @publickey: ブログ書きました： AWSが生まれたのは、Amazonが経費削減のためにSunのサーバからHP/Linuxサーバへ切り替えたことがきっかけ。当時の社員が振り返る www.publickey1.jp/blog/21/awsama…
posted at 09:42:00
RT @m__sb04: 【書いた】2020年のエッジAI 動向を網羅的にまとめました！💫 去年の振り返りを一気にできるので、おうち時間のお供にご活用いただけると嬉しいです。#edgeAI を盛り上げていきたいので今年も宜しくお願いします🐮 >【エッジAI 2020カレンダー】最新動向＆トレンド 丸わかり note.com/m__sb04/n/ncd5…
posted at 09:40:29
RT @MasahiroKaneko_: @Bollegala 先生との2つのfull paperがEACL2021に採択されました！ #eacl2021 1. 単語分散表現の様々な差別バイアスを除去するために，辞書の定義文を用いる手法を提案 2. 文脈付き分散表現 (BERT, RoBERTa, ALBERT) の差別バイアスを除去する手法の提案
posted at 08:44:28
AWSが生まれたのは、Amazonが経費削減のためにSunのサーバからHP/Linuxサーバへ切り替えたことがきっかけ。当時の社員が振り返る － Publickey www.publickey1.jp/blog/21/awsama…
posted at 08:32:23
RT @tkatsumi06j: #米議会乱入 俳優で元加州知事のアーノルド・シュワルツェネッガー。米議会議事堂で起きた『叛乱』について7分に及ぶ動画メッセージを発信。自身がナチスドイツ支配下のオーストリアに生まれ育ち、度重なる嘘と裏切りを見てきた。自身の両親も毒されていたことを初めて告白。視聴数300万以上。必聴 twitter.com/Schwarzenegger…
posted at 07:31:03
RT @AlexTamkin: Some takeaways from @openai's impressive recent progress, including GPT-3, CLIP, and DALL·E: [THREAD] 👇1/
posted at 00:47:09
RT @AlexTamkin: 1) The raw power of dataset design. These models aren't radically new in their architecture or training algorithm Instead, their impressive quality is largely due to careful training at scale of existing models on large, diverse datasets that OpenAI designed and collected. 2/
posted at 00:47:06
RT @daemon1995: @karaage0703 マジレスすると視力1.0で網膜は600万画素。RGBの錐体の他に輝度だけの桿体が有り4ch.そして桿体で幾何学模様を抽出して、錐体の色情報は圧縮して脳へ送られる。つまり視神経の時点で既に帯域圧縮されてるので脳までそんなに情報量無いはず。…という研究してたのがJAISTの同期に居たが停電でイカが死亡
posted at 00:46:38
RT @icoxfog417: 日本ロボット学会のセミナー。画像の判断根拠、音声認識/合成、Vision&Language、対話での画像・音声・言語活用と、一日でマルチモーダルの研究動向が概観できるお得なセミナーとなっている。2/17開催で、2月15日締め切り。 twitter.com/losnuevetoros/…
posted at 00:45:32
RT @icoxfog417: DNNのネットワーク構造をきれいな図に変換してくれるツール。CNN/FCNのような一本道の構成はもちろん、Feature Pyramidのような低層からの迂回経路がある構成もいい感じに可視化してくれる。 twitter.com/nicvadivelu/st…
posted at 00:45:15
posted at 00:38:35
月 5.5ドルで使える Vultr で nginx-proxy を構築して frourio を Docker で動かす！｜すばる zenn.dev/su8ru/articles… #zenn
posted at 00:35:14